응용 수학-지구과학

개요

Applied Mathematics in Geoscience 플레이리스트.

우연히 유튜브에 떠서 봤는데 쉽게 설명을 잘 해줘서 공부해보게 되었다.

1강

우리는 그 어느 때보다 더 많은 데이터를 수집하고 있지만, 그것이 정말로 우리가 지구를 더 잘 이해한다는 것을 의미할까요?

현대 과학에서 우리는 대개 더 많은 데이터가 자동으로 더 깊은 이해를 가져다줄 것이라고 가정합니다. 하지만 복잡한 시스템에서는 실제로 그렇지 않은 경우가 많습니다.

시간이 흐르며 과학이 어떻게 진화해 왔는지 살펴보겠습니다. 오늘날 우리는 센서, 위성, 글로벌 관측을 통해 방대한 양의 데이터를 수집하고 있습니다. 동시에 우리의 모델 역시 점점 더 세밀해지고 복잡해지고 있죠. 우리는 이러한 발전과 더불어 우리의 이해도 함께 깊어질 것이라 생각하곤 합니다.

하지만 실제로는 그렇지 않습니다. 우리는 더 많이 시뮬레이션하고, 더 많이 계산하고, 더 많은 정보를 저장할 수 있게 되었지만, 그렇다고 해서 지금 무슨 일이 일어나고 있는지 자동으로 더 잘 이해하게 되는 것은 아닙니다.

이를 자세히 쪼개어 보겠습니다. 우리는 데이터를 수집하고, 그 데이터에서 정보를 얻어 모델을 구축하며, 그 모델은 일종의 결과물을 만들어냅니다. 그리고 이 과정이 우리에게 이해를 가져다줄 것이라는 숨겨진 가정이 존재합니다.

그러나 실제로는 그렇지 않은 경우가 많습니다. 모델은 현실을 설명하지 않고도 현실을 꽤 잘 재현해 낼 수 있기 때문입니다.

여기서 심지어 더 미묘한 일이 일어날 수 있습니다. 데이터가 더 많아지면, 실제로 우리가 도출할 수 있는 설명도 더 많아집니다. 동일한 관측 결과를 만들어낼 수 있는 다양한 메커니즘이 존재할 수 있기 때문입니다. 마찬가지로 모델이 더 복잡해질 때도 가능한 설명이 더 많아집니다. 이제 너무나 많은 다양한 메커니즘이 존재하기 때문에, 무엇이 정확히 그러한 결과물을 만들어내는지 파악하기가 어려워집니다.

따라서 여기에는 긴장 관계가 존재합니다. 더 많은 세부 사항이 반드시 더 많은 명확성으로 이어지는 것은 아닙니다.

엘니뇨를 예로 들어보겠습니다. 엘니뇨는 열대 태평양에서 나타나는 지배적인 연간 변동 패턴입니다. 이는 비정상적으로 따뜻한 바닷물이 적도를 따라 서쪽에서 동쪽으로 퍼져나갈 때 발생합니다. 그리고 이러한 해수면 온도의 변화는 그 위의 대기를 변화시켜 전 세계의 바람, 강수량, 날씨 패턴에 영향을 미칩니다.

하지만 여기서 우리가 주의 깊게 살펴봐야 할 중요한 점이 있습니다. 엘니뇨 현상이 항상 똑같은 것은 아니라는 점입니다. 어떤 때는 동태평양에 완전히 집중되기도 하고, 어떤 때는 대양 한가운데에 더 치우치기도 합니다. 또한 지속 기간과 강도도 제각각입니다. 이러한 모든 다양한 변동은 지구에 서로 매우 다른 영향을 미치며, 우리는 이를 시뮬레이션할 수 있어야 합니다.

현재 우리에게는 수많은 다양한 상호작용 구성 요소를 가지고 있으며 엄청난 계산적 세부 사항을 자랑하는 매우 정교한 기후 모델들이 있습니다. 하지만 그 복잡성에도 불구하고, 기후 모델들은 여전히 이러한 다양한 유형의 엘니뇨 현상을 제대로 시뮬레이션하지 못합니다. 심지어 가장 진보된 현업 운영 모델 중 하나의 시간 평균 강도조차도 실제 관측 결과와 다릅니다. 이 플롯을 보면 우리는 실제 한 가지 유형의 현상만을 시뮬레이션하고 있으며, 그것이 적도 태평양을 가로질러 너무 멀리 퍼져나가고 있음을 알 수 있습니다.

그렇다면 왜 더 많은 데이터나 더 복잡한 모델이 이러한 불확실성을 해결하지 못하는 걸까요?

수많은 서로 다른 프로세스가 상호작용할 때, 우리는 창발적인 복잡한 행동을 마주하게 됩니다. 그리고 이러한 창발성은 해석을 더 쉽게 만들기보다 오히려 더 어렵게 만듭니다. 결국 더 많은 세부 사항이 우리에게 더 많은 명확성을 주지는 못하는 것입니다.

그리고 여기에는 사실 더 깊은 문제가 자리 잡고 있습니다. 데이터가 많아지면 우리가 '무엇을' 관측하고 있는지에 대한 불확실성은 줄어들 것입니다. 하지만 그것이 우리가 '왜' 그것을 관측하고 있는지, 즉 우리가 관측하는 현상을 만들어내는 메커니즘에 대한 불확실성을 줄여주지는 못합니다.

그리고 진정한 이해란, 왜 우리가 관측하는 현상이 그렇게 나타나는지 그 이유를 아는 것입니다. 따라서 우리는 지금 완전히 다른 두 가지 이야기를 하고 있는 셈입니다. 완벽한 데이터를 가지고 있더라도, 우리는 여전히 시스템을 오해할 수 있습니다.

핵심 메시지는 간단합니다. 더 많은 데이터는 우리가 관측하는 현상에 대한 묘사를 개선해주지만, 이해에는 그것과는 다른 무언가가 필요합니다.

2강

만약 어떤 모델이 무언가를 정확하게 예측한다면, 시스템이 변해도 그 모델은 여전히 제대로 작동할까요? 많은 경우, 예측과 이해는 같은 것이 아닙니다.

이를 이해하기 위해 간단한 그림을 하나 살펴보겠습니다. 우리에게는 하나의 시스템이 있고, 이 시스템의 입력값과 출력값을 관찰하고 있습니다. 이때 시스템의 출력값을 꽤 잘 예측하는 모델이 있다고 가정해 봅시다. 그렇다면 우리는 이 시스템을 정말로 이해한 것일까요? 정답은 '꼭 그렇지만은 않다'입니다. 예측은 어떤 일이 일어나는지 말해주지만, 이해는 그것이 '왜' 일어나는지를 말해주기 때문입니다.

예측을 하는 데는 근본적으로 다른 두 가지 방법이 있습니다. 하나는 내부에서 어떤 일이 일어나는지 이해하지 못한 채 입력과 출력을 매핑하는 모델을 만드는 것이고, 다른 하나는 그 행동을 만들어내는 실제 메커니즘을 파악하는 것입니다. 예측은 상관관계에서 비롯될 수 있지만, 이해에는 인과관계가 필요합니다. 따라서 두 모델 모두 정확한 예측을 제공할 수 있지만, 변화가 생기면 매우 다르게 행동합니다.

대부분의 모델은 기존 데이터에 얼마나 잘 부합하는지를 기준으로 평가됩니다. 하지만 과학에서 그것은 진짜 목표가 아닙니다. 우리가 진정으로 관심을 두는 것은 아직 보지 못한 상황에서 어떤 일이 일어나는가입니다. 이제 우리에게 시스템이 있지만, 시스템의 입력값이 약간 변한다고 가정해 봅시다. 이는 노이즈 때문일 수도 있고 기후 변화와 같은 장기적인 변화 때문일 수도 있습니다. 하지만 이 경우, 우리의 모델이 잘못된 메커니즘을 포착했다면 입력값의 아주 작은 교란(변화)만으로도 모델은 실패할 수 있습니다. 즉, 메커니즘이 없는 모델은 매우 취약합니다.

이 점은 기후 과학에서 특히 중요한데, 왜냐하면 우리는 단지 과거의 기후만을 예측하려는 것이 아니기 때문입니다. 시스템은 변하고 있으며, 우리는 이 변화하는 시스템 속에서 예측하려고 노력하고 있습니다. 그리고 똑같은 문제가 머신러닝에서도 나타납니다. 모델이 훈련 데이터에서는 좋은 성능을 보일 수 있지만, 잘못된 구조를 학습했다면 새로운 데이터에서는 실패할 수 있습니다.

이를 조금 더 잘 이해하기 위해 간단한 예를 들어보겠습니다. 우리가 관찰한 데이터 포인트들이 있고, 이 동일한 데이터 포인트들에 두 가지 서로 다른 모델을 맞추고 싶다고 가정해 봅시다. 첫 번째 모델은 평범한 선형 모델이고, 두 번째 모델은 다른 형태를 띠고 있다고 해봅시다. 이 두 모델 모두 데이터를 완벽하게 맞추므로, 이 영역 안에서는 둘 다 똑같이 좋아 보인다고 말할 수 있습니다. 하지만 데이터 범위를 벗어나면 이들은 매우 다르게 행동할 수 있습니다. 그리고 그중 단 하나만이 진짜 메커니즘을 반영하여 데이터 너머의 올바른 결과를 예측할 수 있을 것입니다.

수학적으로 보면, 많은 서로 다른 함수들이 동일한 데이터를 보간(interpolate)할 수 있지만, 보지 못한 입력값에 대해서는 완전히 다른 예측을 만들어낼 수 있습니다. 실제로 데이터를 맞추는 것은 쉬운 부분이지만, 올바르게 일반화하는 것은 어려운 부분입니다.

그렇다면 시스템을 진정으로 이해한다는 것은 무엇을 의미할까요? 시스템을 이해한다는 것은 상황이 바뀔 때 어떤 메커니즘이 여전히 유효한지 파악하는 것을 의미하며, 시스템이 새로운 조건에 어떻게 반응하는지 이해하는 것을 의미합니다. 진정한 이해란 세상이 더 이상 이전과 똑같지 않을 때도 모델이 신뢰성을 유지할 수 있도록 해주는 것입니다.

따라서 우리는 모델의 출력값이 관찰값과 얼마나 가까운지에만 집중해서는 안 됩니다. 동일한 관찰 패턴이 서로 다른 수많은 메커니즘에 의해 재현될 수 있기 때문입니다.

핵심 메시지는 이것입니다. 예측 자체만으로는 충분하지 않습니다. 잘못된 메커니즘을 가진 모델은 현재 데이터에 대해서는 잘 예측하더라도, 변화가 생기면 실패할 수 있기 때문입니다. 시스템을 진정으로 이해하려면, 우리가 이미 본 데이터를 넘어서도 여전히 유효한 메커니즘이 필요합니다.

다음 영상에서는 모델링의 복잡함, 그리고 더 복잡한 모델이 왜 항상 이해를 돕는 데 더 나은 것은 아닌지에 대한 질문에 답하기 위해 디테일, 정확성, 통찰력 사이의 숨겨진 트레이드 오프에 대해 더 깊이 파고들어 보겠습니다.

3강

현대의 지구과학 모델은 지구 시스템의 모든 과정을 표현하기 위해 점점 더 상세해지고 있습니다. 하지만 여기서 핵심적인 질문이 생깁니다. 복잡성이 커진다고 해서 실제로 더 잘 이해하게 되거나 정확성이 더 높아질까요?

모델링에서는 우리가 원하는 모든 것을 한 번에 얻기가 쉽지 않습니다. 예를 들어, 매우 상세한 모델은 현실을 아주 높은 해상도로 표현하는 것을 목표로 합니다. 그러나 이러한 복잡함 속에서 도대체 무슨 일이 일어나고 있는지 파악하고 모델로부터 통찰력을 얻기는 어려울 수 있습니다. 반면, 개념 모델(Conceptual models)은 훨씬 더 단순하고 상세함은 떨어지지만 해석하기가 훨씬 쉽습니다. 덕분에 우리는 명확한 메커니즘을 식별할 수 있습니다.

이러한 모델들의 정확성은 실제로 우리가 무엇을 예측하려 하느냐에 따라 달라집니다. 사실 정확성은 단 하나의 수치로 정의되지 않습니다. 우리가 시스템의 어떤 특징에 관심을 두느냐에 따라 달라집니다. 그리고 여기에는 훨씬 더 미묘하고 매우 중요한 점이 있습니다. 바로 더 상세한 모델이라고 해서 반드시 더 정확한 것은 아니라는 사실입니다.

과정이나 매개변수 같은 상세한 요소를 더 많이 도입할수록, 실제로는 더 많은 근사치와 더 많은 불확실성, 그리고 더 많은 오류의 원인을 함께 도입하게 됩니다. 이러한 트레이드오프(상충 관계)에서 응용수학이 중심적인 역할을 합니다. 응용수학은 이해할 수 있을 만큼 단순하면서도 우리가 관심 있는 특징에 대해서는 정확한 모델을 설계할 수 있는 도구를 제공합니다. 목표는 최대의 상세함이 아니라, 우리가 던지는 질문에 대한 올바른 균형을 잡는 것입니다.

우리는 차원 축소, 확률적 모델링, 다중스케일 모델링, 불확실성 정량화와 같은 도구를 사용하여 이 트레이드오프의 균형을 맞출 수 있습니다. 이 트레이드오프가 구체적인 예인 엘니뇨 남방진동(ENSO)에서 어떻게 나타나는지 살펴보겠습니다.

엘니뇨는 열대 태평양에서 일어나는 지배적인 연간 변동 패턴입니다. 이는 적도를 따라 발생하는 해수면 온도의 진동을 특징으로 합니다. 이러한 해수 온도의 변화는 그 위의 대기를 변화시켜 전 세계의 바람, 강수량, 날씨 패턴에 영향을 미칩니다. 우리는 매우 상세한 현업용 모델부터 시작하여 ENSO를 바라보는 세 가지 다른 모델링 관점을 살펴보겠습니다.

현업 기후 모델은 전체 지구 시스템을 시뮬레이션하려고 시도합니다. 해양, 대기, 그리고 다양한 피드백 사이의 수많은 상호작용 구성 요소를 포함합니다. 이는 수억에서 수십억 개의 진화하는 상태를 가진 매우 상세한 모델입니다. 하지만 이 모든 복잡성을 갖추고도 정확성이 보장되지는 않습니다. 대규모 특징에 대해서조차 그렇습니다.

ENSO의 경우, 이 모델들은 대규모 공간 패턴의 변화를 포착하는 데 어려움을 겪습니다. 상단 그래프의 관측 자료를 보면 변동성이 주로 동태평양에 집중되어 있는 것을 볼 수 있습니다. 반면, 하단 그래프의 현업 모델은 변동이 태평양 전역으로 너무 넓게 퍼져 있으며, 실제로 나타나야 할 공간적 변동을 제대로 보여주지 못합니다. 즉, 더 많은 상세함이 더 나은 예측을 보장하지는 않는 것입니다.

이제 단 두 개의 핵심 변수만 가진 개념 모델을 생각해 보겠습니다. 이러한 유형의 모델은 필수적인 메커니즘만을 격리하도록 설계되었습니다. 그리고 이를 통해 ENSO가 왜 진동하는지 설명할 수 있습니다. 메커니즘은 잘 이해할 수 있지만, 시뮬레이션된 시계열은 관측값과 그리 잘 맞아떨어지지 않습니다.

이제 이 개념 모델의 아이디어를 확장하기 위해 새로운 응용수학 도구인 '확률성(Stochasticity)'을 사용해 보겠습니다. 메커니즘은 그대로 유지하되, 복잡성과 해결되지 않은 과정들을 무작위성(Randomness)으로 표현하는 것입니다. 이제 모델은 변동성과 통계적 거동을 포착합니다. 시계열을 보면 비록 서로 다른 실현 값들이라 점 대 점으로 완벽히 일치하지는 않지만, 질적으로 매우 유사한 거동을 보이는 것을 확인할 수 있습니다.

그러나 이 모델을 사용하더라도 현업 모델이 가진 상세한 구조와 해상도는 여전히 잃게 됩니다. 결국 이러한 모델들은 저마다 필수적인 무언가를 포착하고 있는 것입니다. 그리고 각 모델은 현실의 서로 다른 측면에 대해 정확할 수 있습니다.

또한, 이러한 다양한 유형의 모델이 엄격하게 분류되는 것은 아닙니다. 많은 현대 모델은 그 중간 어딘가에 위치합니다. 따라서 진정한 이해는 단 하나의 모델에서 나오지 않습니다. 더 상세하다고 해서 더 많이 이해하는 것은 아니기 때문입니다.

단순함이 부정확함을 의미하지 않으며, 정확성은 우리가 표현하고자 하는 특징에 따라 달라집니다. 그러므로 진정한 이해는 메커니즘, 변동성, 구조라는 이 서로 다른 관점들을 결합하는 데서 옵니다.

응용수학은 이러한 모델들을 연결하는 프레임워크를 제공합니다. 핵심 메커니즘을 보존하는 복잡성 축소, 변동성을 포착하는 확률성, 스케일을 넘나들며 서로 다른 모델을 연결하는 것, 불확실성과 예측 가능성을 정량화하는 것 등 다양한 도구를 통해 통찰력, 정확성, 상세함의 균형을 잡을 수 있게 해줍니다.

목표는 가장 상세한 모델을 구축하는 것이 아니라, 우리가 던진 질문에 맞는 올바른 모델을 구축하는 것입니다. 향후 강의에서는 이러한 아이디어가 예측과 이해를 위한 현대적 도구로 어떻게 이어지는지 알아보겠습니다. 특히 다음 영상에서는 응용수학이 예측의 한계를 이해하는 데 어떻게 도움이 되는지 소개하겠습니다.

4강

이번 강의에서는 수학, 물리학, 기상 예측, 그리고 미래 그 자체에 대한 우리의 이해를 바꾸어 놓은 한 가지 질문에 대해 논의해보고자 합니다. 만약 우리가 물리학 법칙을 알고 있고 강력한 컴퓨터를 가지고 있다면, 왜 미래를 완벽하게 예측할 수 없는 걸까요?

예를 들어, 왜 우리는 오늘로부터 정확히 한 달 뒤에 비가 올지 안 올지 알 수 없을까요? 혹은 왜 몇 주 전에 모든 태풍의 정확한 이동 경로를 예측할 수 없을까요? 장기 예측은 왜 근본적으로 어려운 것일까요?

처음에는 기술이 문제라고 생각할 수도 있습니다. 컴퓨터가 충분히 빠르지 않거나, 모델이 정확하지 않거나, 혹은 단순히 더 많은 데이터가 필요해서라고 말이죠. 하지만 진짜 정답은 그보다 훨씬 더 깊은 곳에 있습니다. 완벽한 방정식을 가지고 있더라도 예측 그 자체에는 한계가 존재합니다.

그 이유는 바로 '카오스(혼돈)' 때문입니다. 이는 현대 과학에서 가장 놀라운 발견 중 하나입니다. 여기서 한계를 만드는 것은 모델이 아니라 시스템 그 자체입니다. 어떤 시스템은 아주 작은 불확실성을 너무나도 빠르게 증폭시키기 때문에 장기적인 예측이 근본적으로 불가능해집니다.

중요한 점은 이것이 시스템이 무작위로 움직인다는 뜻은 아니라는 것입니다. 시스템은 여전히 완전히 결정론적일 수 있습니다. 방정식에는 무작위성이 전혀 포함되어 있지 않습니다. 그럼에도 불구하고 미래는 예측 불가능해집니다.

이러한 현상을 카오스라고 부릅니다. 자, 우리가 방정식을 완벽하게 알고 있다고 가정해 봅시다. 모델의 오류도 없고, 근사치도 아닌, 그저 완벽한 물리학 법칙 말이죠. 하지만 여전히 한 가지 문제가 남습니다. 우리는 초기 상태를 절대 완벽하게 알 수 없다는 점입니다. 우리는 오직 근사치만 알 수 있을 뿐입니다.

예를 들어 기상 예측의 경우, 대기 모든 곳의 모든 온도, 모든 바람의 흔들림, 모든 기압의 변화를 정확하게 알아야 합니다. 이는 엄청난 양의 정보이며, 이 모든 것을 완벽하게 측정하는 것은 물리적으로 불가능합니다. 따라서 초기 조건에는 아무리 작을지라도 항상 일종의 미세한 불확실성이 존재하기 마련입니다.

불확실성이 어떻게 커지는지 이해하기 위해 아주 단순한 수학적 모델을 살펴보겠습니다. 이 방정식은 성장 속도가 현재 X의 크기에 비례한다는 것을 나타냅니다. 이 방정식의 해는 시간이 지남에 따라 기하급수적으로 늘어나는 형태가 됩니다.

이제 이 해를 불확실성 자체에 적용해 보겠습니다. 우리는 서로 다른 시점에서의 불확실성이 얼마인지, 그리고 그것이 시간에 따라 어떻게 진화하는지 알고 싶습니다. 계산을 해보면 매우 중요한 사실을 알 수 있습니다. 초기 조건에 있던 미세한 불확실성이 시간이 흐름에 따라 기하급수적으로 커진다는 점입니다.

처음에는 이 불확실성의 차이가 너무나도 작아서 거의 보이지 않습니다. 하지만 기하급수적 성장에는 매우 특별한 성질이 있습니다. 처음에는 천천히 시작되다가 나중에는 겉잡을 수 없이 빠르게 증가한다는 것입니다. 이러한 수학적 원리는 복리 이자, 인구 성장, 전염병 확산, 그리고 많은 불안정한 물리 시스템에서 나타납니다. 그리고 카오스 시스템에서는 이 미세한 불확실성이 반복해서, 또다시 증폭됩니다. 결국 미래는 완전히 달라지게 됩니다.

이 방정식의 해를 두 가지 서로 다른 초기 조건을 사용해 시각화해 보겠습니다. 초기 조건이 서로 매우 가깝기 때문에, 처음에는 궤적이 거의 동일하게 보입니다. 하지만 결국 궤적들은 서로 분리되기 시작하고 완전히 갈라져 버립니다. 그리고 충분한 시간이 흐른 뒤에는 예측이 그 가치를 잃게 됩니다. 이 기하급수적인 증폭이 바로 카오스 뒤에 숨겨진 핵심 개념 중 하나입니다.

여기서 명확히 짚고 넘어가야 할 중요한 사실이 있습니다. 카오스는 무작위성이 아닙니다. 방정식은 여전히 완전히 결정론적입니다. 미래는 여전히 물리 법칙에 의해 만들어집니다. 다만 시스템이 미세한 불확실성에 너무나도 민감하기 때문에 장기적인 예측이 불가능해지는 것뿐입니다. '결정론적'이라는 말이 '예측 가능하다'는 뜻은 아닙니다.

이 개념은 '나비 효과'라는 말로 유명해졌습니다. 나비 한 마리가 날개를 펄럭이면 몇 주 후에 대기가 완전히 다르게 진화하여 태풍에 영향을 준다는 이미지입니다. 이것이 문자 그대로 나비 한 마리가 스스로 태풍을 만들어낸다는 뜻은 아닙니다. 더 깊은 의미는, 완벽하게 측정하기에는 너무나도 작은 미세한 차이가 결국에는 거대한 규모의 결과를 바꿀 수 있다는 뜻입니다.

비선형 시스템에서는 이러한 증폭이 반복적으로 일어날 수 있습니다. 작은 섭동(흔들림)들이 역학 관계와 상호작용하고, 시스템으로 다시 피드백되며 시간이 흐를수록 커집니다. 따라서 완벽한 방정식을 가지고 있더라도, 우리가 완벽하게 측정할 수 없기 때문에 완벽하게 예측할 수 없는 것입니다.

흥미롭게도 카오스는 부분적으로 우연히 발견되었습니다. 1960년대에 기상학자인 에드워드 로렌즈는 기상 시뮬레이션을 실행하고 있었습니다. 시간을 아끼기 위해 그는 반올림된 숫자를 사용해 계산을 재시작했습니다. 그 차이는 1,000분의 1보다도 작을 정도로 미미했습니다. 하지만 나중에 시뮬레이션된 날씨는 완전히 달라졌습니다. 그 발견은 과학을 영원히 바꾸어 놓았습니다. 미세한 불확실성이 예측을 근본적으로 제한할 수 있음을 밝혀낸 것입니다.

카오스가 발생하려면 엄청나게 복잡한 방정식이 필요할 것 같지만, 가장 유명한 카오스 시스템 중 하나는 단 3개의 변수만을 가지고 있습니다. 이것이 바로 1963년에 도입된 '로렌즈 63 시스템'입니다. 이는 무작위성이 없는 결정론적 비선형 시스템입니다. 그럼에도 불구하고 장기적인 예측 불가능성을 만들어냅니다. 이 시스템의 유명한 나비 모양 구조는 나비 효과와 깊은 연관을 맺게 되었습니다. 이 시스템이 놀라운 이유는 단순한 방정식이 믿을 수 없을 정도로 복잡한 행동을 만들어낼 수 있다는 점입니다.

이것은 혁명적이었습니다. 카오스 이론이 등장하기 전까지 많은 과학자들은 방정식이 결정론적이라면 충분히 정확한 예측이 언제나 가능할 것이라고 믿었습니다. 카오스는 이러한 직관이 틀렸음을 보여주었습니다. 결정론적 시스템이라고 해서 반드시 예측 가능한 것은 아닙니다.

이제 이전에 보았던 단순한 수학적 모델로 돌아가서 예측 가능성 자체를 정량화해 보겠습니다. 불확실성이 충분히 커지면 예측이 무용지물이 된다고 가정해 봅시다. 불확실성이 특정 수준에 도달하는 시점을 계산해 보면, 몇 가지 중요한 사실을 알 수 있습니다.

첫째, 초기 불확실성이 작을수록 더 긴 예측이 가능해집니다. 따라서 더 나은 측정 장비가 도움이 됩니다. 하지만 그 효과는 로그(logarithmically) 함수적으로만 작용합니다. 즉, 측정을 극적으로 훨씬 더 잘하더라도 예측 기간은 아주 조금만 연장될 수 있다는 뜻입니다. 그리고 불안정성이 더 큰 시스템일수록 예측 가능성을 더 빨리 잃게 됩니다.

이것이 기상 예측에 명확한 한계 지평이 존재하는 이유 중 하나입니다. 더 나은 모델과 더 나은 관측 장비가 있더라도, 카오스는 여전히 장기 예측을 가로막습니다.

하지만 여기서 극도로 중요한 점을 하나 명확히 해야 합니다. 카오스가 모든 것을 예측할 수 없다는 뜻은 아닙니다. 날씨와 기후를 살펴보면 이를 조금 더 이해할 수 있습니다. 날씨와 기후는 정말 다릅니다. 날씨는 "특정 날짜에 정확히 어떤 일이 일어나는가?"를 묻는 반면, 기후는 "장기적인 통계적 행동은 어떠한가?"를 묻습니다.

예를 들어, 우리는 2050년 5월 6일 매디슨의 정확한 온도를 알 수는 없을 것입니다. 하지만 평균적인 온난화, 폭염의 빈도, 강수량 통계의 변화, 혹은 극단적인 기상 이변의 확률 같은 장기적인 추세는 연구할 수 있습니다. 즉, 카오스는 정밀한 장기 예보를 제한하지만, 통계적 예측은 여전히 의미를 가질 수 있습니다. 지구과학에서는 이러한 구분이 매우 중요합니다.

실제 상황에서는 추가적인 불확실성이 존재하기 때문에 예측이 훨씬 더 어려워집니다. 측정은 불완전하고, 컴퓨터는 유한한 정밀도를 가지며, 모델에는 근사치가 포함되어 있어 이 모든 것이 예측을 더 어렵게 만듭니다. 하지만 이것들이 예측이 실패하는 가장 깊은 원인은 아닙니다. 이러한 추가적인 불확실성들을 모두 제거하더라도 카오스는 여전히 남아있을 것이기 때문입니다. 그리고 미세한 불확실성은 피할 수 없기 때문에, 카오스 시스템은 이를 증폭시킬 것입니다.

따라서 현대의 예보 시스템은 매우 다른 철학을 사용합니다. 단 하나의 정확한 미래를 예측하는 대신, 수많은 가능한 미래들을 예측합니다. 이를 '앙상블 예보(ensemble forecasting)'라고 부릅니다. 서로 다른 시뮬레이션들이 아주 조금씩 다른 초기 조건에서 시작됩니다. 그런 다음 과학자들은 발생 가능한 결과의 범위를 연구합니다. 즉, 현대의 예측은 결정론적이라기보다는 확률적인 경우가 많습니다. 응용 수학은 불확실성 정량화, 확률, 역학 시스템, 통계적 예보 등에서 중심적인 역할을 합니다.

결국 핵심 아이디어는 모델이 불완전해서 예측이 실패하는 것이 아니라는 점입니다. 일부 시스템이 본질적으로 예측 불가능하기 때문에 실패하는 것입니다. 카오스는 미세한 불확실성이 기하급수적으로 성장하는 예측의 내재적 한계를 만들어냅니다. 그리하여 예측 가능성은 유한해집니다. 그리고 이 개념은 과학을 완전히 바꾸어 놓았습니다.

응용 수학은 여기서 정말 큰 도움이 될 수 있습니다. 무엇이 예측될 수 있는지뿐만 아니라, 무엇이 예측될 수 없는지도 알려주기 때문입니다. 그리고 그러한 한계 그 자체를 이해하는 것 또한 하나의 깊은 이해의 형태입니다.

다음 강의에서는 과학이 스스로 완전히 이해하지 못하는 방법을 사용할 때 어떤 일이 일어나는지 알아보겠습니다.

5강

과학에서는 흔히 먼저 방법을 이해한 다음 이를 사용하는 단순한 과정을 상상하곤 합니다. 하지만 현실에서는 이와는 전혀 다른 일이 자주 일어납니다. 현대 과학에서 가장 강력한 방법 중 일부는 그 작동 원리를 완전히 이해하기 전부터 널리 사용되고 있습니다. 그리고 이는 과학의 약점이라기보다는, 여러 면에서 과학이 발전하는 방식이기도 합니다.

매우 빈번하게 과학은 완전한 이해에서 시작되지 않습니다. 잘 작동하는 방법, 좋은 예측을 제공하는 방법, 데이터에 부합하는 방법, 실질적인 문제를 해결하고 유용한 결과를 주는 방법에서 시작됩니다. 그래서 사람들은 먼저 그 방법을 사용하기 시작하고, '왜 이 방법이 작동하는가?'라는 더 깊은 질문은 나중에야 던지게 됩니다. 이것이 이번 강의에서 탐구할 핵심 아이디어입니다. 과학의 많은 분야에서 응용이 먼저 오고, 그다음 성공이 따르며, 결국 이해는 나중에 이루어집니다. 여기에는 몇 가지 다른 이유가 있습니다.

첫 번째 이유는 단순합니다. 항상 경험적인 성공이 먼저 찾아옵니다. 어떤 방법이 안정적으로 작동한다면, 사람들은 무슨 일이 일어나고 있는지 이해하기도 전에 그것을 도입할 것입니다. 그 뒤에 숨겨진 완전한 이론이나 내부 메커니즘은 이해하지 못할지라도, 실제 문제를 해결하는 데 도움이 된다면 유용해지기 때문입니다. 이는 특히 데이터 기반 과학에서 매우 흔하게 볼 수 있습니다.

또 다른 이유는 많은 현대 시스템이 이론이 온전히 따라잡기에는 너무나 복잡하다는 점입니다. 우리는 비선형 시스템, 고차원 모델, 상호 작용하는 다중 스케일, 숨겨진 변수, 노이즈가 많은 데이터를 연구하고 있습니다. 이러한 시스템에 대해서는 완전한 이론적 설명이 불가능한 경우가 많으므로, 과학은 부분적인 이해만을 가진 채 앞으로 나아갑니다.

세 번째 이유는 과학의 각 영역이 서로 다른 속도로 진화하기 때문입니다. 우리의 모델은 더 복잡해지고, 데이터는 더 풍부해지며, 컴퓨팅 도구는 더 강력해집니다. 반면 이론과 해석은 대개 더 느리게 발전합니다. 이로 인해 격차가 발생합니다. 우리에게는 강력한 도구가 있지만, 그것들이 실제로 무엇을 하고 있는지에 대한 이해는 제한적인 불일치가 생기는 것입니다. 한쪽에서는 현대 과학이 복잡한 모델, 방대한 데이터, 비선형 시스템을 사용하는 반면, 다른 한쪽에서는 여전히 매우 단순한 지표, 제한적인 진단, 부분적인 이론만을 가지고 이러한 도구들을 해석하곤 합니다. 따라서 실제 순서는 '먼저 이해하고 나중에 사용한다'가 아니라, 종종 '사용하고, 성공하고, 나중에 이해한다'가 됩니다.

아주 친숙한 예로 머신러닝이 있습니다. 머신러닝 모델은 예측을 극도로 잘 수행하고, 이미지의 패턴을 인식하며, 물리적 변수를 예측하고, 이벤트를 분류하거나 복잡한 역학을 근사할 수 있습니다. 하지만 예측이 정확할 때조차도 우리는 모델이 정확히 무엇을 학습했는지 완전히 이해하지 못할 수 있습니다. 어떤 특징을 사용하고 있는지, 어떤 변수가 가장 중요한지, 실제 메커니즘을 학습한 것인지, 아니면 데이터의 지름길을 학습한 것인지 알 수 없습니다. 이것이 바로 어떤 방법이 성공적이면서도 완전히 이해되지 않을 수 있는 이유입니다. 도구는 작동할 수 있지만, 그것이 작동하는 이유는 명확하지 않은 채로 남을 수 있습니다.

이러한 현상은 물리 모델링에서도 일어납니다. 많은 복잡한 시스템, 특히 멀티 스케일 시스템에서는 모든 과정을 직접 해결할 수 없습니다. 그래서 우리는 단순화된 표현을 도입합니다. 경험식을 사용하고, 매개변수를 조정하며, 닫힌 모델(closure models)을 구축합니다. 이러한 방법들은 매우 유용할 수 있습니다. 예측을 향상시키고, 시뮬레이션을 가능하게 만들며, 중요한 대규모 거동을 포착할 수 있습니다. 하지만 더 깊은 질문은 여전히 남습니다. 우리가 조정한 매개변수들이 왜 작동하는지 정말로 완전히 이해하고 있을까요? 때로는 그 답이 '아니요'입니다. 그것들은 한 환경에서는 작동하지만 다른 환경에서는 실패할 수 있습니다. 유용하지만 그 한계가 완전히 이해되지 않은 것입니다.

이는 미묘한 위험으로 이어집니다. 어떤 방법이 잘 작동하면 우리는 자연스럽게 자신감을 갖게 됩니다. 하지만 성공은 과신을 낳을 수 있습니다. 우리는 가정을 이해하지 못한 채 출력을 신뢰하고, 메커니즘을 이해하지 못한 채 예측을 신뢰하며, 궁극적으로는 그 한계를 이해하지 못한 채 방법을 신뢰하게 될 수 있습니다. 그러다가 시스템이 변하면 그 방법은 실패할 수 있습니다. 그것이 쓸모없어서가 아니라, 애초에 이해하지 못했기 때문에 유효한 범위를 벗어나 사용했기 때문입니다.

그러나 이러한 격차는 더욱 깊어질 수 있습니다. 때로는 우리가 완전히 이해하지 못하는 것이 모델뿐만이 아닙니다. 그것을 평가하는 방식도 마찬가지입니다. 우리가 사용하는 지표조차도 하나의 방법이며, 우리는 그것들이 정확히 무엇을 측정하고 있는지 완전히 이해하지 못한 채 사용할 때가 많습니다.

이를 더 잘 이해하기 위해 간단한 예를 살펴보겠습니다. 빨간색으로 표시된 모델 예측과 파란색으로 표시된 실제 값을 비교한다고 가정해 봅시다. 이 두 케이스를 눈으로 보면 두 번째 케이스가 실제로 더 나아 보입니다. 변동성을 포착하고, 더 현실적으로 보이며, 실제 시스템과 더 유사하게 행동하기 때문입니다. 하지만 이제 평균 제곱근 오차(RMSE)와 상관관계 같은 표준 지표를 보겠습니다. 평균 제곱근 오차는 첫 번째 케이스에서 더 작습니다. 상관관계 또한 첫 번째 케이스와 두 번째 케이스 모두 꽤 좋으며 거의 비슷합니다. 따라서 이 두 가지 지표에만 따르면 첫 번째 케이스가 더 낫다는 결론이 나옵니다.

여기서 모순이 발생합니다. 눈으로 보는 것은 두 번째 케이스가 더 낫다고 제안하지만, 지표는 첫 번째 케이스가 더 낫다고 말해줍니다. 이런 일이 일어나는 이유는 평균 제곱근 오차가 궤적 간의 점대점(point-by-point) 차이를 측정하기 때문입니다. 각 시간 단계에서의 국소적 오류에 초점을 맞출 뿐, 전반적인 통계적 거동은 포착하지 못합니다. 첫 번째 케이스에서는 궤적이 점대점으로 더 가깝게 유지되므로 평균 제곱근 오차가 더 작습니다. 두 번째 케이스에서는 매 순간 궤적이 더 많이 벗어날 수 있어서 평균 제곱근 오차가 더 큽니다. 하지만 전반적인 거동은 더 현실적입니다. 따라서 문제는 평균 제곱근 오차가 틀렸다는 것이 아니라, 단지 그것이 다른 질문에 답하고 있을 뿐이며 우리가 그 사실을 깨닫지 못하고 있다는 점입니다.

그래서 우리에게는 다른 관점이 필요합니다. 단순히 점대점 오류만 측정하는 대신 시스템이 전체적으로 어떻게 행동하는지 비교하는 것입니다. 이를 수행하는 한 가지 방법은 상대 엔트로피(relative entropy)를 통하는 것입니다. 그 뒤에 숨겨진 아이디어는 간단합니다. 개별 궤적뿐만 아니라 두 확률 분포를 비교하는 것입니다. 단 하나의 오류 값이 아니라 전체적인 통계적 거동을 비교하는 것이죠. 따라서 상대 엔트로피는 실제로 다른 질문을 던집니다. 어느 궤적의 오류가 더 작은지 묻는 대신, 모델의 분포가 실제 분포와 얼마나 다른지 묻습니다. 그래서 상대 엔트로피를 통해 우리는 어떤 모델이 올바르게 보이는 거동을 만들어내는지, 우리가 관찰하는 변동성을 어떤 모델이 포착하는지, 혹은 어떤 모델이 시스템을 더 충실하게 표현하는지에 대한 더 온전한 그림을 얻을 수 있습니다.

원래의 예시로 돌아가 보면, 두 번째 모델의 상대 엔트로피가 더 작다는 것을 알 수 있습니다. 이는 모델의 분포가 첫 번째 모델보다 실제에 더 가깝다는 것을 반영합니다. 이는 또한 우리의 원래 직관과 일치하며, 상대 엔트로피가 '어느 모델이 더 현실적인 거동을 생성하는가'에 대한 답을 반영하고 있음을 보여줍니다.

이 예시는 단지 평균 제곱근 오차 대 상대 엔트로피에 대한 것만이 아닙니다. 더 깊은 교훈을 보여줍니다. 지표는 단순한 숫자가 아니라 하나의 방법입니다. 그것은 우리가 '더 나음'을 무엇으로 정의하는지 결정합니다. 그리고 그 정의는 우리가 실제로 중요하게 생각하는 것과 일치하지 않을 수 있습니다. 따라서 어떤 방법이 성공적으로 보일 때, 우리는 우리의 지표가 무엇을 측정하고 있는지도 이해해야 합니다. 모델이 데이터에 부합하고, 지표가 좋아 보이며, 예측이 정확해 보일 수 있지만, 그것이 우리가 시스템을 이해하고 있다는 것을 의미하지는 않습니다. 그리고 그 방법을 이해하고 있다는 의미도 아닙니다. 이처럼 격차는 우리가 사용하는 모델에만 있는 것이 아니라, 그것들을 평가하는 방식에도 존재합니다.

현대 과학에서 우리는 완전한 이해 없이 방법들을 사용할 뿐만 아니라, 성공이 무엇을 의미하는지 완전히 이해하지 못한 채 성공을 정의하기도 합니다. 이는 과학에 대한 더 깊은 진실을 드러냅니다. 과학이 항상 이해에서 응용으로 직선으로 나아가는 것은 아닙니다. 매우 빈번하게 과학은 반대 방향으로 움직입니다. 방법을 적용하고, 그것이 성공하면, 우리가 왜 그런지 완전히 이해하지 못한다는 것을 깨닫습니다. 그리고 그 혼란이 새로운 질문을 만들어내며, 그 질문들이 새로운 이론을 이끌어냅니다. 따라서 이해의 부족은 과학의 끝이 아닙니다. 그것은 종종 더 깊은 과학의 시작입니다.

이 지점에서 응용수학이 중심적인 역할을 합니다. 응용수학은 단순히 공식을 제공하는 것에 그치지 않습니다. 우리의 도구들이 무엇을 하고 있는지 이해하도록 돕고, 숨겨진 가정을 드러내며, 모델의 한계를 식별하고, 더 나은 진단법을 설계하며, 데이터와 모델 그리고 이론을 연결해 줍니다. 다시 말해, 응용수학은 유용한 도구를 진짜 이해로 전환하는 데 도움을 줍니다.

결론은 이것입니다. 방법은 우리가 그것들을 이해하기 전에도 작동할 수 있습니다. 성공이 이해를 보장하지는 않으며, 심지어 성공을 측정하는 것조차 오해를 불러일으킬 수 있습니다. 도구는 이해와 같지 않습니다. 응용수학은 우리가 구조를 밝히고, 한계를 이해하며, 더 나은 진단법을 설계하도록 돕습니다. 진정 과학은 완전한 이해 없이도 전진합니다. 하지만 도구가 통찰력을 앞지를 때 발전은 취약해질 수 있습니다. 응용수학은 도구를 이해로 바꾸는 데 기여합니다. 그렇기 때문에 현대 과학에서 방법을 이해한다는 것은 단지 이론적인 질문일 뿐만 아니라, 과학을 더 신뢰할 수 있게 만드는 과정의 일부입니다.

6강

기후 시스템은 엄청나게 복잡합니다. 대기, 해양, 구름, 바람, 복사열, 난류, 그리고 다양한 규모에서 일어나는 과정들이 모두 포함되어 있으며, 모든 요소가 서로 상호작용합니다. 여기서 핵심적인 질문이 생깁니다. 우리는 이해를 위해 이 모든 복잡함이 전부 필요할까요? 보통은 그렇지 않습니다.

진자를 생각해 보세요. 진자가 왜 흔들리는지 이해하고 싶을 때, 방 안의 모든 공기 분자를 모델링할 필요는 없습니다. 그저 중력, 관성, 마찰력만 분리해 내면 됩니다. 이러한 단순화는 약점이 아니라, 시스템을 이해할 수 있게 만드는 핵심입니다. 기후 과학에서도 똑같은 철학이 적용됩니다. 우리는 모든 작은 것들을 그대로 재현함으로써 복잡한 시스템을 이해하는 것이 아니라, 실제로 중요한 몇 가지 메커니즘을 분리해 냄으로써 이해합니다.

현대의 기후 모델은 엄청나게 정교합니다. 수백만 개의 변수를 포함할 수 있으며 대기, 해양 순환, 해빙, 구름, 지면 상호작용, 화학 작용 등을 시뮬레이션합니다. 이를 통해 놀라울 정도로 현실적인 시뮬레이션을 만들어낼 수 있지만, 여기에는 중요한 상충 관계(trade-off)가 있습니다. 모델이 지나치게 복잡해지면, 무엇이 실제로 그 현상을 유발하는지 파악하기 어려워질 수 있습니다.

예를 들어 예측이 갑자기 틀렸다고 가정해 봅시다. 무엇이 이 오류를 일으켰을까요? 구름 피드백 때문일까요, 해양 수송, 대기 대류, 수치적 근사치 때문일까요, 아니면 우리가 놓친 상호작용 때문일까요? 이처럼 때로는 복잡성이 메커니즘을 가릴 수도 있습니다.

개념 모델(Conceptual model)은 거의 과학적 현미경과 같은 역할을 합니다. 원인과 결과를 분리할 수 있도록 방해 요소를 제거해 줍니다. 개념 모델은 모든 세부 사항을 재현하기 위해 만들어진 것이 아니라, 시스템의 핵심 구조를 드러내기 위해 설계되었습니다. 개념 모델은 단순히 더 작은 모델이 아닙니다. 필수적인 역학 관계를 분리하여 해석할 수 있도록 신중하게 설계된 모델입니다.

이 모델은 어떤 메커니즘이 진동을 만들어내는지, 무엇이 불안정성을 제어하는지, 그리고 예측 가능성의 한계를 결정하는 것은 무엇인지와 같은 질문에 답하고자 합니다. 개념 모델은 무슨 일이 일어나는지 보는 것을 넘어, 왜 시스템이 그렇게 작동하는지 이해할 수 있도록 도와줍니다. 그리고 많은 경우, 놀라울 정도로 적은 수의 변수만으로도 복잡한 시스템의 지배적인 거동을 포착할 수 있습니다.

지구에서 가장 중요한 기후 현상 중 하나인 엘니뇨-남방진동, 줄여서 엔소(ENSO)를 살펴보겠습니다. 엔소는 전 세계 날씨 패턴에 강력한 영향을 미칩니다. 강수량, 가뭄, 홍수, 허리케인, 농업, 생태계, 심지어 세계 경제에까지 영향을 줍니다. 하지만 이러한 복잡성에도 불구하고, 그 거동의 큰 부분은 몇 가지 핵심 메커니즘을 통해 이해할 수 있습니다.

엔소는 태평양에서 발생하며, 태평양은 엄청난 양의 열을 저장하고 있습니다. 정상적인 상태에서는 무역풍이 따뜻한 상층수를 서태평양으로 밀어냅니다. 따라서 서태평양은 대개 동태평양보다 항상 더 따뜻합니다. 패널 B에 표시된 엘니뇨 현상 동안에는 무역풍이 약해지기 때문에 따뜻한 상층수 중 일부가 동태평양 쪽으로 이동합니다. 그래서 동태평양의 상태가 평소보다 더 따뜻해집니다.

이후 시스템은 다시 반대 위상인 라니냐로 돌아가 완화될 수 있습니다. 라니냐 시기에는 무역풍이 강해져 더 많은 따뜻한 상층수가 서태평양으로 밀려가고, 이로 인해 동태평양은 평소보다 더 차가운 상태가 됩니다. 여기서 특히 중요한 물리량 중 하나는 수온약층(thermocline)의 깊이입니다. 패널 D의 빨간 선으로 표시된 것처럼, 수온약층은 따뜻한 상층수와 더 차가운 하층수를 나누는 경계라고 생각하시면 됩니다. 수온약층이 변하면 해수면 온도에 영향을 미칩니다.

이제 패널 E의 궤적을 주목해 보세요. 해수면 온도와 수온약층 깊이가 진화하는 모습을 볼 수 있는데, 이들은 그저 무작위로 독립적으로 변하는 것이 아니라 조직적인 방식으로 함께 진화합니다. 이러한 조직성은 패널 F의 위상 공간 구조에서도 볼 수 있습니다. 시스템이 루프 패턴을 그리며 나아가는데, 이는 역학 관계에 진동 구조가 포함되어 있음을 말해줍니다.

이는 종종 '방전-충전(discharge-recharge)'이라고 불립니다. 배터리를 충전하거나 방전하는 것과 비슷하게, 열이 천천히 축적되었다가 그 일부가 방출되는 것입니다. 우리는 이 복잡한 기후 시스템 속에서, 놀라울 정도로 적은 수의 변수로 이를 체계화할 수 있음을 이미 확인할 수 있습니다.

이제 엔소를 위한 최소한의 개념 모델을 살펴보겠습니다. 이 모델에서 첫 번째 변수 T는 해수면 온도 편차를 나타냅니다. 동태평양이 정상보다 따뜻해지면 이 편차를 증폭시키는 여러 가지 과정이 존재하며, 이는 여기 방정식에 포함되어 있습니다. 이 항은 양의 피드백(positive feedback)을 나타냅니다. 따뜻해진 해양은 온난화를 더욱 강화하는 대기 반응을 부추길 수 있습니다. 하지만 해양 내부 깊은 곳이나 수온약층 깊이 역시 반응하며, 결국 이 심해의 조정 과정이 온난화를 억제합니다. 따라서 이 항은 실제로는 지연된 감쇠(damping) 메커니즘처럼 작용합니다.

두 번째 방정식은 수온약층의 진화를 설명합니다. 해양 구조는 해수면 온도의 변화에 천천히 반응합니다. 더 따뜻해진 해수면 온도는 바람과 해양 순환에 영향을 미치고, 그러한 강제력이 수온약층 깊이를 변화시킵니다. 그리고 해양은 자연스럽게 다시 평형 상태로 돌아갑니다. 핵심 아이디어는 이것입니다. 만약 시스템에 양의 피드백이 존재하면서 동시에 지연된 조정 과정이 있다면, 진동은 자연스럽게 발생하게 됩니다. 두 변수 사이의 위상차를 주목해 보세요. 한 변수가 다른 변수보다 약간 늦게 반응하며, 그 지연이 바로 진동 거동을 만들어내는 원인입니다.

이처럼 단 두 개의 변수만으로도 우리는 이미 엔소의 중심 메커니즘을 포착했습니다. 하지만 실제 기후 시스템은 이처럼 완벽하게 규칙적이지 않습니다. 그렇다면 우리 모델로 어떻게 더 현실적인 변동성을 얻을 수 있는지 알아보겠습니다. 관측 자료에서 엔소는 완벽하게 반복되는 진동처럼 작동하지 않습니다. 어떤 때는 강하고, 어떤 때는 약하며, 때로는 불규칙합니다.

그렇다면 질문은 이 변동성이 실제로 어디서 오느냐는 것입니다. 중요한 원인 중 하나는 간헐적인 대기 활동입니다. 예를 들어, 흔히 '돌풍(wind bursts)'이라 불리는 태평양 상공의 짧고 강한 바람의 분출은 엔소의 변동성에 큰 영향을 미칩니다. 이제 바람 활동을 나타내는 세 번째 변수를 도입합니다. 시스템은 여전히 동일한 대규모 메커니즘을 포함하고 있지만, 여기에 확률적 강제력(stochastic forcing)도 함께 포함합니다.

이러한 선택 뒤에 숨겨진 핵심적인 물리적 아이디어는 다음과 같습니다. 해수면 온도가 높아지면 더 강한 대기 대류가 발생하는 경향이 있고, 강한 대류는 더 불규칙한 바람 변동을 생성합니다. 즉, 변동성 자체가 해수면 온도의 상태에 의존하는 것입니다. 이것이 바로 노이즈의 강도가 $T$에 의존하는 이유입니다. 이를 '상태 의존성 노이즈(state-dependent noise)' 또는 '승법 노이즈(multiplicative noise)'라고 부릅니다.

따라서 우리는 무작위성을 임의로 더하는 것이 아니라, 물리학에 기반한 변동성을 더하는 것입니다. 이를 구별하는 것은 매우 중요한데, 현실적인 기후 변동성은 그저 무작위 노이즈가 아니기 때문입니다. 그것은 물리학과 연결된 구조화된 무작위성입니다. 이러한 조정을 거치면, 비록 이 두 궤적이 동일한 실현 체가 아니어서 모든 점이 일치하지는 않더라도, 빨간색의 모델 궤적이 파란색의 관측치처럼 불규칙해지는 것을 볼 수 있습니다.

패널 B는 시간적 기억 구조 역시 재현됨을 보여주고, 패널 C는 결정적으로 확률 분포까지 현실적으로 변함을 보여줍니다. 우리는 단 하나의 궤적만 맞추는 것이 아니라 기후 시스템의 통계적 구조를 재현하고 있는 것입니다. 이를 통해 규칙적인 진동에서 현실적이고 불규칙한 엔소 거동으로 나아갈 수 있습니다. 이제 복잡성을 한 단계 더 높여보겠습니다.

이 개념적 구조를 공간적으로 확장합니다. 태평양을 단 하나의 지역으로만 표현하는 대신, 이제 서태평양, 중태평양, 동태평양 성분으로 분리합니다. 이를 통해 모델은 공간 구조와 열 수송을 더 현실적으로 포착할 수 있습니다. 하지만 우리가 여기서 무엇을 하고 있는지 주목해 보세요. 우리는 두 개의 변수에서 곧바로 거대한 시뮬레이션으로 뛰어넘지 않습니다. 우리는 복잡성을 점진적으로 쌓아가고 있습니다. 그리고 이러한 위계 구조(hierarchy)는 응용 수학에서 매우 중요합니다.

패널 B부터 E를 통해 이 3지역 모델이 관측치에 매우 가까워지는 것을 볼 수 있습니다. 패널 D의 3지역 모델에서 재구성된 해수면 온도 패턴은 패널 B와 C의 관측치와 정성적으로 매우 유사합니다. 패널 E의 변동성 통계조차도 매우 잘 일치합니다. 따라서 실제로 개념 모델은 정성적일 뿐만 아니라 정량적으로도 정확할 수 있습니다. 그저 설명만 하는 것이 아니라, 실제 현상을 복원해 내는 것입니다. 마지막으로 더 넓은 관점을 살펴보겠습니다.

이러한 개념 모델들은 고립된 모델이 아닙니다. 이들은 실제로 거대한 운영 기후 모델을 개선하는 데 도움을 줄 수 있습니다. 현대의 지구 시스템 모델은 극도로 정교하지만 체계적인 편향(bias)이 발생하며, 이러한 문제를 진단하기 위해서는 개념적인 이해가 필요합니다. 개념 모델은 놓친 피드백, 잘못된 변동성, 또는 왜곡된 상호작용을 식별하는 데 도움을 줍니다. 관측, 이론, 시뮬레이션을 연결하는 데 도움을 줍니다. 편향을 진단하고, 수정을 안내하며, 모델 위계 구조를 연결하는 데 도움을 줍니다. 개념 모델은 복잡한 모델을 대체하지 않습니다. 복잡한 모델을 이해할 수 있게 만들고 개선할 수 있도록 돕습니다.

복잡한 모델은 정보를 생성하는 반면, 개념 모델은 해석을 생성합니다. 요약하자면, 단순한 모델은 이해를 가능하게 합니다. 단순함은 메커니즘을 파악하는 데 도움을 주고, 확률성(stochasticity)을 더하는 것은 현실성을 복원하는 데 도움을 줍니다. 그리고 구조는 예측력을 얻는 데 도움을 줍니다. 우리가 단순화하는 이유는 현실을 무시하기 위해서가 아니라, 그것을 이해하기 위해서입니다. 그리고 일단 메커니즘을 이해하고 나면 신중하게 복잡성을 다시 더할 수 있습니다. 과학은 단순히 복잡성을 증가시킴으로써 진보하는 것이 아니라, 복잡성 내부에 숨겨진 구조를 발견함으로써 진보합니다.

이것이 바로 단순한 모델이 복잡한 지구 시스템을 설명하는 방법입니다. 다음 강의에서는 현실을 잃지 않으면서 어떻게 단순화할 수 있는지 더 깊이 알아보겠습니다.

7강

단순한 모델은 우리가 복잡한 시스템을 이해하도록 도와줍니다. 하지만 여기에는 더 깊은 질문이 따릅니다. 중요한 동작(특성)을 잃지 않으면서 어떻게 시스템을 단순화할 수 있을까요? 어떻게 단순화할지 이야기하기 전에, 먼저 왜 우리가 단순화하려 하는지부터 물어봅시다.

첫째, 단순화는 무엇이 정말 중요한지 이해하도록 도와줍니다. 복잡한 동작 뒤에 숨겨진 지배적인 메커니즘을 드러내 주죠. 둘째, 더 단순한 모델이 종종 더 견고합니다. 노이즈에 덜 민감하고 더 잘 일반화될 수 있습니다. 셋째, 민감도를 테스트할 수 있게 해줍니다. 핵심 요소를 고립시켜 그것들이 시스템에 어떤 영향을 미치는지 볼 수 있습니다. 그리고 마지막으로, 계산 비용을 극적으로 줄여줍니다. 전체 모델에서 며칠이 걸릴 수 있는 작업이 차원 축소 모델(Reduced Order Model)에서는 몇 초 만에 끝날 수 있습니다.

때로는 차원 축소 모델이 매우 빠르고 작은 규모의 과정을 제거하기도 합니다. 이는 우리가 더 큰 시간 단계(Time step)를 사용할 수 있고 시뮬레이션을 훨씬 더 빠르게 실행할 수 있음을 의미합니다. 따라서 진정으로 단순화는 단지 편리함의 문제가 아니라 필수적인 것입니다.

여기에 간단한 예가 있습니다. 만약 우리에게 완전한 기후 모델이 있다면, 그것은 수백만 개의 변수를 포함하고 있을 것입니다. 대기와 해양의 수많은 위치와 높이에서의 기온, 바람, 습도, 기압을 설명할 수 있죠. 하지만 우리의 목표가 모든 단일 구름을 예측하는 것이 아니라고 가정해 봅시다. 엘니뇨, 몬순, 혹은 장기적인 기후 변동성과 같은 대규모 동작을 이해하는 것이 목표라면 어떨까요? 그렇다면 모든 작은 세부 사항은 필요하지 않을 수 있습니다. 우리가 관심 있는 동작을 제어하는 몇 가지 지배적인 패턴만 필요할 수도 있습니다.

이것이 차원 축소 모델의 기본 개념입니다. 우리는 본질적인 구조는 유지하고, 우리가 던지는 질문에 덜 중요한 세부 사항은 제거합니다. 하지만 단순화는 사소한 일이 아닙니다. 모델이 너무 복잡하면 이해할 수 없다는 것을 우리는 알고 있습니다. 하지만 반대로 모델이 너무 단순하면 중요한 동작을 잃어버릴 수 있습니다. 따라서 단순화의 진짜 목표는 그저 단순하게 만드는 것이 아니라, 적절한 수준의 복잡성에 도달하는 것입니다.

그렇다면 이 질문으로 이어집니다. 모델에 정말로 유지해야 하는 것은 무엇일까요? 우리는 정말 모든 세부 사항이 필요하지 않습니다. 그저 동작을 제어하는 구조만 필요할 뿐입니다. 어떤 문제에 있어서 이는 주요 물리적 메커니즘을 보존하는 것을 의미합니다. 다른 문제에 있어서는 평균적인 변동성 패턴이나 시스템의 통계적 특성을 보존하는 것을 의미합니다. 그래서 진짜 핵심 메시지는, 시스템의 본질적인 정보와 본질적인 동작을 포함하는 모델이 레이아웃이 상세한 모델일 필요는 없다는 것입니다. 차원 축소 모델은 복잡한 시스템의 본질적인 동작을 보존하는 단순화된 버전입니다.

수학적으로 우리는 종종 매우 고차원의 상태에서 시작합니다. 이는 수천 또는 수백만 개의 구성 요소를 가진 벡터일 수 있습니다. 그런 다음 이를 훨씬 더 작은 변수 집합으로 대체합니다. 그리고 이 새로운 변수들은 시스템의 가장 중요한 부분을 설명합니다. 즉, 우리는 시스템의 동작이 아니라 모델을 단순화하려는 것입니다.

차원 축소 모델을 구축하는 데는 두 가지 주요 방법이 있습니다. 첫 번째는 변수의 개수를 줄이는 것입니다. 두 번째는 변수들 사이의 상호작용을 단순화하는 것입니다. 이 두 가지 아이디어는 별개이지만 함께 작동할 수도 있습니다.

먼저 변수의 개수를 줄여 차원 축소 모델을 구축하는 방법부터 살펴보겠습니다. 많은 시스템에서 데이터가 고차원일지라도, 대부분의 중요한 동작은 훨씬 더 낮은 차원의 공간에 존재합니다. 이 중요한 저차원 공간을 찾기 위한 흔한 도구는 주성분 분석, 즉 PCA라고 불립니다. PCA는 변동성의 대부분을 설명하는 소수의 지배적인 패턴을 찾아냅니다.

구체적인 예가 있습니다. 우리가 전 세계 수천 개의 위치에서 기온을 측정한다고 상상해 보십시오. 처음에는 이것이 엄청난 수의 변수처럼 보이지만, 기온 필드는 완전히 무작위가 아닙니다. 많은 위치가 함께 변합니다. 예를 들어, 한 패턴은 광범위한 지구 온난화를 설명할 수 있습니다. 또 다른 패턴은 열대 태평양의 엘니뇨 관련 온난화를 설명할 수 있죠. 또 다른 패턴은 계절적 또는 지역적 변동성을 설명할 수 있습니다. 그리고 PCA는 데이터로부터 이러한 핵심 지배 패턴을 자동으로 식별합니다. 그러면 수천 개의 기온을 추적하는 대신, 우리는 단지 몇 개의 모드(Mode), 특히 그 계수들만 바라보면 됩니다. 그리고 이 몇 개의 계수는 특정 시간에 이러한 패턴들이 각각 얼마나 강하게 나타나는지 알려줍니다. 따라서 PCA는 시스템을 가장 중요한 방향으로 압축합니다. 긴 이야기를 단 몇 가지 핵심 아이디어로 요약하는 것이라고 생각하면 됩니다.

두 번째 접근 방식은 다릅니다. 변수를 줄이는 대신, 변수들이 상호작용하는 방식을 단순화합니다. 많은 고차원 시스템에는 수많은 비선형 상호작용이 존재합니다. 그리고 이러한 상호작용은 똑같이 모델링하기에 지나치게 복잡할 수 있습니다. 그래서 대신 우리는 많은 복잡한 효과를 더 단순한 근사치로 대체합니다. 한 가지 강력한 아이디어는 미해결된 상호작용(파란색으로 표시됨)을 확률적 항(빨간색으로 표시됨)으로 대체하는 것입니다. 이는 모든 작은 상호작용을 정확하게 예측하려고 노력하지 않는다는 것을 의미합니다. 대신 그 전체적인 효과를 통계적으로 표현합니다. 시스템이 혼돈(Chaotic) 상태라면 모든 세부 사항을 추적하는 것은 필요하지 않을 수 있습니다. 중요한 것은 통계적으로 중요한 동작을 포착하는 것입니다.

이제 차원 축소 모델을 구축하는 이 두 가지 방식을 따로 사용할 필요는 없습니다. 상호작용을 단순화하는 것과 변수의 개수를 줄이는 것이 어떻게 함께 작동하여 차원 축소 모델을 구축할 수 있는지 구체적인 예를 살펴보겠습니다.

우리는 '2층 준지정역학 모델(two-layer quasi-geostrophic model)'이라고 불리는 고해상도 비선형 모델을 살펴볼 것입니다. 이 모델은 128의 제곱만큼의 완전히 결합된 모드를 가지고 있으며, 패널 A에서 이 모델의 스냅샷을 볼 수 있습니다. 이러한 유형의 모델은 종종 대기나 해양을 표현하는 데 사용됩니다. 고해상도와 복잡한 비선형 역학으로 인해 이를 실행하는 데는 계산 비용이 많이 듭니다. 우리는 가장 본질적인 구성 요소를 식별하고 이러한 복잡성을 줄여 이 동작을 재현하고자 합니다.

시스템을 표현하는 데 사용하는 모드의 개수를 잘라냄으로써(Truncating) 그렇게 할 수 있습니다. 우리가 다루는 변수의 개수를 효과적으로 줄이는 것이죠. 가장 본질적인 모드를 결정할 수 있는 한 가지 방법은 패널 C의 에너지 스펙트럼을 보는 것입니다. 더 많은 에너지를 가진 모드가 시스템의 핵심 동작을 재현하는 데 더 중요합니다. 여기서 첫 11의 제곱만큼의 모드를 취하면 대부분의 핵심 동작을 포착할 수 있음을 볼 수 있습니다. 실제로 패널 B를 보면, 첫 11의 제곱 모드가 아닌 다른 모드들을 버린 '절단된 비선형 모델'의 스냅샷을 볼 수 있습니다. 패널 B의 이 차원 축소 모델 스냅샷은 패널 A의 원래 복잡한 모델과 매우 유사해 보입니다. 우리가 핵심 구조와 동작을 포착했음을 나타내죠. 고주파 모드를 더 이상 모델링하지 않기 때문에 실행하기에 더 효율적입니다. 따라서 시뮬레이션에서 더 큰 시간 단계를 취할 수 있습니다.

그러나 이 잘려진 비선형 시스템은 더 오랜 기간 실행할 수록, 제외된 모드들로부터의 상호작용을 고려하지 않기 때문에 결국 값이 발산해 버리는(Blow-up) 문제를 겪게 됩니다. 그래서 여기서는 통계적으로 동작이 일치하는, 축소된 선형 확률 방정식(stochastic equations)을 사용하여 이러한 상호작용을 단순화하려는 시도도 도움이 됩니다. 11의 제곱 모드를 가진 확률적 선형 모델의 스냅샷이 패널 D에 나와 있습니다. 이것은 동일한 실현(Realization)이 아니므로 시점별로 똑같이 일치하지는 않지만, 원래의 복잡한 모델과 질적으로 매우 유사해 보입니다.

패널 E에 표시된 원래 복잡한 모델과 패널 F에 표시된 확률 모델의 모드 시계열을 볼 수도 있습니다. 다시 말하지만, 이것들은 동일한 실현이 아니므로 시점별로 일치하도록 되어 있지는 않지만, 확률적 차원 축소 모델이 시간에 따라 원래 복잡한 모델과 질적으로 유사하게 동작함을 볼 수 있습니다. 확률 모델은 고해상도 주파수 모드를 시뮬레이션하지 않고 확률성을 통해 그 효과만을 시뮬레이션하기 때문에, 여전히 더 큰 시간 단계를 사용할 수 있어 시뮬레이션 효율이 매우 높습니다. 동시에 확률 모델은 잘려진 비선형 시스템이 가질 수 있는 발산 문제를 피할 수 있습니다.

따라서 진짜 목표가 항상 정확한 궤적을 재현하는 것은 아닙니다. 목표는 올바른 변동성, 올바른 불확실성, 그리고 올바른 통계적 특성을 재현하는 것일 수 있습니다. 즉, 정확한 궤적이 아니라 통계적 특성을 보존하는 것입니다.

결국 차원 축소 모델링은 단지 대상을 더 작게 만드는 것에 관한 것이 아닙니다. 그것은 중요한 것을 유지하는 것에 관한 것입니다. 우리는 지배적인 구조를 포착하기 위해 변수를 줄입니다. 우리는 전체적인 동작을 포착하기 위해 상호작용을 단순화합니다. 그리고 때로는 작은 규모의 빠른 과정을 제거함으로써 더 큰 시간 단계를 사용할 수도 있습니다. 이는 모델을 시뮬레이션하는 데 훨씬 더 빠르게 만듭니다. 하지만 목표는 항상 같습니다. 동작을 보존하면서 구조를 단순화하는 것입니다.

전반적으로 단순화는 복잡성을 제거하는 것이 아닙니다. 구조를 드러내는 것에 관한 것입니다. 일단 구조를 이해하고 나면, 단순하면서도 강력한 모델을 구축할 수 있습니다. 그것들은 분석하기 더 쉽고, 시뮬레이션하기 더 빠르며, 무엇이 정말로 복잡한 시스템을 제어하는지 이해하도록 도울 수 있습니다.

이것이 바로 우리가 본질을 잃지 않으면서 현실을 단순화하는 방법입니다. 다음 강의에서는 노이즈가 많은 기후 데이터에서 어떻게 패턴을 추출하는지 깊이 있게 다루어 보겠습니다.

8강

우리가 데이터 세트를 볼 때, 사람들은 흔히 그 안에 '신호(시그널)'와 '소음(노이즈)'이 포함되어 있다고 말합니다. 신호는 우리가 관심을 두는 것이고, 노이즈는 제거하고 싶은 것입니다. 하지만 정확히 무엇이 신호이고 무엇이 노이즈일까요? 노이즈는 정말 아무런 의미가 없는 것일까요, 아니면 그보다 더 미묘한 무언가가 작용하고 있는 것일까요?

이 영상에서 우리는 복잡한 데이터 속에 종종 다양한 유형의 구조가 포함되어 있다는 것을 알게 될 것입니다. 그리고 과학에서 가장 중요한 과제 중 하나는 이러한 서로 다른 구조를 식별하는 방법을 배우는 것입니다.

현대의 기후 데이터 세트는 방대합니다. 시공간을 아우르는 정보를 담고 있으며, 수많은 서로 다른 프로세스가 동시에 일어나고 있습니다. 태평양의 기온 데이터를 보는 상황을 상상해 보세요. 원시 데이터를 보면 다양한 프로세스가 한데 섞여 있습니다. 어느 특정 순간의 데이터에는 계절 주기, 엘니뇨, 날씨 변동성뿐만 아니라 측정 오류까지도 포함될 수 있습니다. 그리고 이 모든 구성 요소가 함께 뒤섞여 있죠. 데이터를 볼 때 우리는 이 모든 것을 한 번에 보게 됩니다. 하지만 이 시스템을 이해하려면 먼저 원시 데이터 속에 숨겨진 주요 패턴을 식별해야 합니다.

시스템을 이해하기 전에, 우리는 먼저 그것의 서로 다른 행동들을 분리해야 합니다. 많은 상황에서 노이즈는 그저 쓰레기가 아닙니다. 그것은 단지 우리가 지금 초점을 맞추고 있지 않은 데이터의 한 부분일 수 있습니다. 우리가 엘니뇨를 연구한다면 매일의 날씨 변동은 노이즈로 보일 수 있습니다. 하지만 우리가 일기 예보를 연구한다면, 바로 그 똑같은 변동이 신호가 될 수 있습니다. 따라서 우리는 진실과 쓰레기를 분리하는 것이 아닙니다. 서로 다른 유형의 구조를 분리하는 것입니다.

패턴이란 시공간에서 재현 가능한 구조를 말합니다. 데이터에서 반복적으로 나타나는 것이죠. 예를 들어, 연간 주기는 하나의 패턴입니다. 엘니뇨도 패턴이며, 매든-줄리안 진동(MJO) 역시 패턴입니다. 이러한 현상들은 무작위로 일어나는 것이 아닙니다. 인지할 수 있는 공간적 구조를 가지고 있으며, 시간에 따라 특정한 방식으로 전개됩니다. 매우 복잡한 시스템에서도 특정 구조는 반복해서 나타납니다.

한 가지 강력한 아이디어는 복잡한 데이터를 더 단순한 조각들의 조합으로 표현하는 것입니다. 전체 데이터 세트를 한 번에 연구하는 대신, 이를 여러 구성 요소로 쪼개는 것이죠. 각 구성 요소는 한 가지 유형의 행동을 포착합니다. 여기 이 방정식이 그 아이디어를 수학적으로 표현한 것입니다. 함수 $\phi_k$는 공간적 패턴을 설명합니다. 구조가 어떻게 생겼는지 알려주는 것이죠. 계수 $a_k$는 그 구조가 시간에 따라 어떻게 변하는지 설명합니다. 패턴이 언제 강해지거나 약해지는지 알려주는 것입니다. 각 항은 시스템의 한 가지 유형의 행동을 포착합니다.

복잡한 데이터를 분해하는 매우 흔하고 상대적으로 단순한 방법 중 하나는 주성분 분석, 줄여서 PCA입니다. 몇 가지 예를 보기 전에 PCA가 어떻게 작동하는지 간단히 소개해 드리겠습니다. 아이디어는 놀라울 정도로 간단합니다. PCA는 데이터에서 가장 큰 변동성을 설명하는 방향을 찾습니다. 가장 중요한 패턴을 먼저 식별한 다음, 두 번째로 중요한 패턴을 찾는 식으로 계속 진행됩니다. 그 결과, 매우 고차원적인 데이터 세트도 대개 몇 개의 지배적인 모드(mode)만을 사용해 표현할 수 있게 됩니다. 실제로 PCA는 데이터가 가장 많이 변하는 방향을 찾아냅니다.

PCA(EOF라고도 함)를 사용하여 엘니뇨 남방진동(줄여서 ENSO)을 분해한 유명한 사례를 살펴보겠습니다. ENSO가 발생하는 열대 태평양 전역의 해수면 온도를 분석한다고 가정해 봅시다. 엘니뇨가 발달할 때, 바다의 넓은 지역이 함께 따뜻해집니다. 이는 강력하고 일관된 공간적 패턴을 만들어냅니다. 신호가 대규모이고 고도로 조직화되어 있기 때문에, PCA와 같은 단순한 방법으로도 이를 직접 식별할 수 있는 경우가 많습니다.

A 패널의 지배적인 모드는 왼쪽의 실제 관측된 ENSO 패턴과 매우 유사합니다. 사실 빨간색으로 강조된 이벤트들은 첫 번째 모드에 의해 거의 완전히 표현될 수 있음을 나타냅니다. 반면 B 패널에 표시된 두 번째 모드의 영향을 크게 받은 이벤트들은 주황색으로 강조되어 있습니다. 주황색보다 빨간색 이벤트가 훨씬 많기 때문에, ENSO는 상대적으로 단순한 방법으로 식별된 지배적인 모드만으로도 잘 표현될 수 있음이 명백합니다. 진정 패턴이 강하고 일관될 때는 이를 찾는데 단순한 도구만으로도 충분합니다.

하지만 모든 중요한 패턴을 쉽게 볼 수 있는 것은 아닙니다. 매든-줄리안 진동, 즉 MJO를 생각해 보세요. MJO는 열대 지역 내 계절 변동성의 가장 중요한 원천입니다. 하지만 원시 데이터를 보면 많은 프로세스가 겹쳐 있으며, MJO 신호는 계절 변동성, 날씨 변동 및 기타 대규모 현상들과 섞여 있습니다. MJO는 열대 지역 내 계절 변동성의 중요한 원천이지만, 그 신호는 원시 데이터에 존재하는 전체 변동성에 비해 훨씬 작습니다. 모든 공간적, 시간적 규모를 함께 놓고 보면, MJO는 훨씬 더 큰 변동에 가려질 수 있습니다. 결과적으로 MJO는 원시 관측 데이터에서 즉각적으로 보이지 않으며, 심지어 PCA를 사용해도 잘 보이지 않습니다. 따라서 이를 추출하기 위해 우리는 종종 이러한 유형의 구조에 맞게 특별히 설계된 방법이 필요합니다.

이 예시에서는 비선형 분해 방법이 MJO를 훨씬 더 명확하게 드러내 줍니다. 이처럼 중요한 패턴을 보기 위해서는 올바른 렌즈가 필요할 수 있습니다. 때로는 과제가 단순히 가시성의 문제가 아니라 역학(dynamics) 자체의 본질일 때도 있습니다. 많은 기후 프로세스는 비선형적 상호작용을 통해 진화합니다. PCA와 같은 선형 분해 방법은 복잡한 행동이 패턴들의 단순한 조합으로 표현될 수 있다고 가정하지만, 실제 시스템은 그렇게 작동하지 않을 수 있습니다.

예를 들어 몬순의 경우, 왼쪽에 표시된 비선형 방법이 오른쪽에 표시된 선형 방법보다 물리적으로 더 의미 있는 구조를 식별해 냅니다. 추출된 패턴이 근저에 깔린 역학을 더 잘 반영하는 것이죠. 따라서 시스템이 비선형적일 때, 선형 분해 방법은 필수적인 행동을 놓칠 수 있습니다.

결국 목표는 단순히 데이터를 처리하는 것이 아닙니다. 과학적 질문에 답하는 것입니다. 그리고 서로 다른 질문은 신호와 노이즈에 대한 서로 다른 정의로 이어집니다. 또한 서로 다른 구조는 서로 다른 방법을 요구할 수 있습니다. 따라서 보편적으로 가장 좋은 분해 방법이란 존재하지 않습니다. 어떤 방법을 선택하느냐가 정말 중요합니다.

우리는 흔히 데이터에 신호와 노이즈가 포함되어 있다고 상상합니다. 하지만 현실은 대개 이보다 더 복잡합니다. 복잡한 시스템은 여러 층의 구조를 포함하고 있습니다. 어떤 것은 명확하고 어떤 것은 숨겨져 있죠. 어떤 것은 단순한 선형 방법으로 찾을 수 있지만, 다른 것들은 더 정교한 접근 방식이 필요합니다. 우리는 정말로 노이즈를 제거하는 것이 아닙니다. 서로 다른 수준에서 구조를 식별하는 것입니다.

따라서 전반적으로 노이즈의 정의는 우리가 던지는 질문에 따라 달라집니다. 그리고 이 노이즈는 종종 구조를 포함하고 있습니다. 우리의 과제는 우리가 던지는 질문에 중요한 구조와 패턴을 식별하는 것입니다. 그리고 비선형 현상이 비선형 방법을 필요로 하듯, 서로 다른 패턴은 서로 다른 방법을 요구할 것입니다.

실제로 복잡한 데이터는 그저 무질서한 것이 아닙니다. 그것은 구조화되어 있습니다. 우리가 던지는 질문에 중요한 구조를 식별하고 나면, 시스템이 어떻게 작동하는지에 대한 통찰을 얻게 됩니다. 그러므로 복잡한 데이터는 단순한 혼돈이 아닙니다. 그것은 발견되기를 기다리고 있는 구조입니다.

다음 강의에서는 예측이 왜 불확실한지에 대해 깊이 파고들어 보겠습니다.

9강

지난 강의에서 우리는 복잡한 행동이 어떻게 단순한 시스템에서 나타날 수 있는지 살펴보았습니다. 결정론적인 방정식조차도 놀라울 정도로 복잡한 역학을 만들어낼 수 있다는 것을 확인했죠. 우리는 또한 혼돈(카오스)에 대해서도 배웠습니다. 이는 아주 작은 차이가 시간이 지나면서 커다란 차이로 커질 수 있다는 개념입니다.

오늘 우리는 다음 단계로 나아갑니다. 이 모든 것이 예측에는 어떤 의미가 있을까요? 우리는 보통 '예보'라는 말을 들을 때 단 하나의 정답을 떠올리곤 합니다. 하지만 현대의 날씨 및 기후 예측은 아주 다르게 작동합니다. 그 이유를 이해하기 위해선, 먼저 예보의 불확실성이 어디서 오는지 알아야 합니다.

단순한 질문으로 시작해 보겠습니다. 일기 예보는 어떻게 시작될까요? 바로 관측에서 시작됩니다. 우리는 기온, 기압, 습도, 풍속, 해양 상태를 비롯한 수많은 양을 측정합니다. 그리고 이 측정값들이 예보의 출발점이 됩니다. 하지만 여기에는 중요한 문제가 있습니다. 그 어떤 측정치도 완벽하게 정확하지는 않다는 점입니다. 온도계가 25도를 가리키고 있더라도, 실제 기온은 그보다 약간 높거나 낮을 수 있습니다. 풍속, 기압, 그리고 우리가 관측하는 본질적으로 모든 다른 양도 마찬가지입니다. 현대의 관측 시스템은 놀라울 정도로 정확하지만, 결코 완벽할 수는 없습니다. 따라서 모든 예보는 아주 작은 양의 불확실성을 안고 시작됩니다. 처음에는 그 불확실성이 미미해 보일 수 있습니다. 결국 10분의 1도가 무슨 차이를 만들겠냐고 생각할 수 있죠. 하지만 혼돈계에서 그 답은 '엄청난 차이'입니다.

만약 우리가 초기 조건을 완벽하게 알았다면 예보는 간단했을 것입니다. 방정식을 시간에 따라 앞으로 실행하기만 하면 되니까요. 하지만 현실은 그렇지 않습니다. 무슨 일이 있어도 우리는 아주 작은 양의 불확실성을 가지게 됩니다. 그래서 우리는 초기 조건을 완벽하게 알 수 없습니다. 그리고 그것이 모든 것을 바꿉니다.

이제 이 논의를 혼돈과 연결해 보겠습니다. 혼돈계에서는 작은 불확실성이 작은 채로 남아있지 않습니다. 그것들은 커지며, 종종 매우 빠르게 커집니다. 그 관계는 보통 여기에 있는 이 수식으로 근사화됩니다. 방정식의 세부 사항에 대해서는 걱정하지 마세요. 핵심 아이디어는 간단합니다. 나중 시간의 불확실성은 초기 불확실성에 지수 함수적 성장 인자를 곱한 것과 같다는 점입니다. $\lambda$라는 양은 오차가 얼마나 빨리 자라는지를 측정합니다. $\lambda$가 양수라면, 아주 작은 차이가 시간이 흐름을 따라 점점 더 커지게 됩니다.

그러니 두 개의 일기 예보가 있다고 상상해 보세요. 처음에는 겨우 1000분의 1도밖에 차이가 나지 않습니다. 차이가 본질적으로 보이지 않을 정도로 작죠. 하지만 며칠이 지난 후, 그 작은 차이가 매우 다른 날씨 패턴으로 이어질 수 있습니다. 하나는 맑은 날씨를 예보하고, 다른 하나는 비를 예측할 수도 있습니다. 대기가 무작위적이어서가 아니고, 모델이 틀려서도 아니라, 혼돈이 아주 작은 불확실성을 증폭시키기 때문입니다. 혼돈은 무작위성을 의미하지 않습니다. 그것은 우리가 정확히 알 수 없는 것에 대한 민감성을 의미합니다.

하지만 이것은 문제를 만들어냅니다. 대기를 완벽하게 알았다면 하나의 예보로 충분했을 것입니다. 하나의 초기 조건, 하나의 미래 궤적이면 되었겠죠. 하지만 현실적으로 우리는 대기를 완벽하게 알지 못합니다. 대신, 우리의 관측과 일치하는 수많은 가능한 초기 조건들이 존재합니다. 그 가능한 시작점들은 각각 저마다의 미래를 만들어냅니다. 따라서 하나의 가능한 예보 대신, 우리는 수많은 가능한 예보를 얻게 됩니다.

이 시점에서 당연한 질문이 떠오릅니다. 우리는 어떤 예보를 믿어야 할까요? 첫 번째 것을 믿어야 할까요? 두 번째 것? 아니면 열 번째 것일까요? 답은 놀라울 정도로 간단합니다. 그중 어떤 것도 개별적으로 신뢰해서는 안 됩니다. 미래는 더 이상 단 하나의 궤적으로 표현되지 않습니다. 그것은 가능한 궤적들의 집합으로 표현됩니다. 이것이 현대 예보에서 가장 중요한 개념적 전환 중 하나입니다. 예측은 단 하나의 미래를 찾는 것이 아닙니다. 수많은 가능한 미래를 설명하는 것입니다.

실제 현업에서 기상학자들은 앙상블 예보를 사용하여 이러한 미래들을 근사화합니다. 모델을 한 번만 실행하는 대신, 여러 번 다르게 실행하는 것이죠. 그리고 이 각각의 실행은 약간씩 다르지만 그럴듯한 초기 조건에서 시작합니다. 여기 이 그림의 모든 색깔 있는 곡선은 하나의 가능한 미래를 나타냅니다. 무슨 일이 일어나는지 주목해 보세요. 초기에는 궤적들이 서로 비교적 가까이 머물러 있습니다. 모두 합리적으로 잘 일치하죠. 하지만 시간이 흐르면서 궤적들이 서로 멀어집니다. 불확실성이 자라나는 것입니다. 앙상블의 퍼짐(spread)은 예보가 얼마나 불확실해졌는지를 알려줍니다.

이 퍼짐은 결함이 아니라 가치 있는 정보입니다. 거의 모든 앙상블 멤버가 동일한 결과를 예측한다면 신뢰도는 높아질 것입니다. 반면에 앙상블 멤버들이 크게 엇갈린다면 신뢰도는 더 낮아집니다. 이 정보는 의사 결정자들이 위험을 이해하는 데 도움을 줍니다. 예를 들어, 허리케인에 대비하는 재난 관리자들은 가장 가능성 높은 경로만 알아야 하는 것이 아니라, 가능한 경로의 범위도 알아야 합니다. 이 범위에 따라 어디에 대비가 필요한지가 결정됩니다. 앙상블의 퍼짐이 진짜 예보인 셈입니다.

이쯤 되면, 확률이라는 게 단순히 우리가 충분히 알지 못한다는 것을 의미하는지 궁금할 수 있습니다. 꼭 그렇지만은 않습니다. 확률은 그것보다 훨씬 더 유용합니다. 확률은 불확실성에 대한 정량적인 설명을 제공합니다. 비가 올 확률이 20%라는 예보는 비가 올 확률이 80%라는 예보와 매우 다릅니다. 두 예보 모두 불확실성을 포함하고 있지만, 전달하는 신뢰도의 수준은 크게 다릅니다. 확률은 불확실성을 정보로 전환합니다. 확률은 어떤 일이 일어날 수 있는지뿐만 아니라, 서로 다른 결과들이 얼마나 가능성이 높은지도 알려줍니다. 이것이 확률 예보가 강력한 이유입니다. 확률 예보는 사람들이 불확실성 속에서 결정을 내릴 수 있도록 돕습니다. 확률은 지식의 부재가 아니라, 우리가 아는 것을 표현하는 방법입니다.

지금까지 배운 모든 것을 연결해 보겠습니다. 우리는 측정에서 시작했고, 그 측정은 작은 불확실성을 포함하고 있습니다. 혼돈계에서는 그 불확실성이 자라납니다. 그리고 그 결과로 수많은 미래가 가능해집니다. 그러므로 예보는 반드시 확률적으로 표현되어야 합니다. 이 전체 아이디어의 사슬이 현대 일기 예측의 토대를 형성합니다.

대기와 같은 복잡한 시스템에서 불확실성은 피할 수 없습니다. 강력한 컴퓨터, 정교한 모델, 광범위한 관측이 있더라도, 혼돈은 작은 불확실성을 반드시 키워냅니다. 이것이 현대의 예보가 단 하나의 예측에 의존할 수 없는 이유입니다. 대신 확률을 사용합니다. 과학이 실패해서가 아니라, 확률이 미래에 대한 가장 정직하고 정보를 주는 설명이기 때문입니다. 목표는 불확실성을 제거하는 것이 아니라, 이를 이해하고 정량화하여 궁극적으로 불확실한 세상에서 더 나은 결정을 내리는 것입니다. 예측은 정말로 단 하나의 미래에 대한 것이 아니라, 가능한 미래의 범위를 이해하는 것에 대한 것입니다.

다음 강의에서는 이러한 예보를 위해 모델과 데이터가 어떻게 함께 작동하여 더 신뢰할 수 있는 초기 조건을 찾아내는지 깊이 있게 다루어 보겠습니다.

10강

미래를 예측하는 것이 가장 어려운 일처럼 들릴 수 있습니다. 하지만 많은 복잡한 시스템에서는 우리가 모든 것을 관찰할 수 없기 때문에, 단지 현재 상태를 아는 것조차 쉽지 않습니다. 게다가 우리가 관찰하는 것조차 노이즈가 섞여 있고, 불완전하며, 불확실합니다. 따라서 그 어떤 예측을 시작하기도 전에, 우리는 먼저 시스템의 현재 상태를 재구성해야 합니다.

이것이 바로 '데이터 동화(Data Assimilation)'의 목표입니다. 데이터 동화는 현재 상태를 가능한 한 정확하게 추정하기 위해 모델과 관측 데이터를 결합하는 수학적 프레임워크입니다.

간단한 예시부터 시작해 보겠습니다. 당신이 어떤 자동차의 위치를 찾으려고 한다고 상상해 보세요. 이 자동차의 위치에 대해 두 가지 정보가 있습니다. 하나는 자동차가 동쪽으로 100m 지점에 있다고 말해주는 GPS 측정값입니다. 하지만 이 GPS 측정값에는 노이즈(오차)가 포함되어 있습니다. 다른 하나는 자동차의 이전 위치와 속도를 바탕으로 자동차가 어디에 있어야 하는지 예측하는 모델입니다. 이 모델은 자동차가 동쪽으로 80m 지점에 있다고 예측합니다.

하지만 모델 역시 완벽하지 않습니다. 운전자가 속도를 줄였을 수도 있고, 도로 상태가 변했을 수도 있습니다. 그렇다면 우리는 GPS와 모델 중 어떤 추정치를 믿어야 할까요? 정답은 '어느 한쪽도 완전히 믿어서는 안 된다'입니다. 대신 우리는 두 가지를 결합합니다. GPS가 매우 정확하다면 GPS를 더 신뢰하고, GPS에 노이즈가 많다면 모델을 더 신뢰하는 식입니다. 최종 추정치는 그 중간 어디쯤인 동쪽으로 90m 지점이 될 수 있습니다. 그리고 이 추정치는 대개 두 가지 정보 소스를 각각 단독으로 사용한 것보다 더 낫습니다.

이 간단한 아이디어가 바로 데이터 동화가 하는 일입니다. 모델과 관측 데이터 양쪽의 불확실성을 고려하면서 두 정보를 결합하는 것입니다.

이 데이터 동화의 개념을 수학적으로 써보겠습니다. 얼핏 보면 이 방정식이 복잡해 보일 수 있지만, 각 부분은 매우 단순하게 해석됩니다. 먼저 $X_f$는 '모델 예측값'입니다. 이는 우리가 새로운 관측 데이터를 보기 전에 모델이 예측한 값을 나타냅니다. $Y$는 우리의 '관측 데이터'입니다. 즉, 데이터가 우리에게 말해주는 것이죠. 여기서 $Y - HX_f$라는 항을 보면, 이는 관측 데이터와 예측값의 차이를 뜻합니다. 다시 말해, 모델과 데이터가 얼마나 불일치하는지를 측정하는 것입니다. 마지막으로 $K$는 '칼만 이득(Kalman Gain)'이라고 불립니다. 이는 우리가 그 불일치에 얼마나 강하게 반응해야 하는지를 결정합니다. 관측 데이터를 매우 신뢰할 수 있다면 $K$는 커질 것이고, 관측 데이터에 노이즈가 많다면 $K$는 작아질 것입니다.

따라서 이 방정식은 놀랍도록 직관적인 내용을 말하고 있습니다. 우리의 업데이트된 최종 추정치는 모델 예측값에 데이터로부터 얻은 보정값을 더한 것과 같다는 뜻입니다. 이것이 데이터 동화의 핵심 아이디어입니다.

하지만 이 시점에서 왜 이것이 필요한지 의문이 생길 수 있습니다. 진짜 이유는 우리의 모델도, 관측 데이터도 완벽하지 않기 때문입니다. 한편으로 모델은 현실을 단순화한 설명에 불과합니다. 모든 구름, 모든 소용돌이, 모든 파도, 혹은 모든 물리적 과정을 다 표현할 수는 없습니다. 어떤 과정은 해상도로 표현하기에 너무 작고, 어떤 과정은 대략적으로만 표현되며, 어떤 과정은 아직 완전히 이해되지 않았습니다. 동시에 관측 데이터도 불완전합니다. 위성이 모든 것을 관찰하지는 못하며, 기상 관측소는 고르게 분포되어 있지 않습니다. 해양 측정 데이터는 희소하고, 모든 측정 장비에는 노이즈가 있습니다.

결국 우리는 근본적인 문제에 직면하게 됩니다. 모델만으로는 충분하지 않고, 관측 데이터만으로도 충분하지 않습니다. 하지만 데이터 동화는 이 두 가지를 결합하여 현재 상태의 최선의 추정치를 만들어냅니다.

이제 이것이 왜 중요한지 살펴보겠습니다. 첫 번째 예시는 카오스(혼돈) 시스템에서 나옵니다. 카오스 시스템에서는 초기 조건의 아주 작은 오차가 시간이 지남에 따라 급격하게 커질 수 있습니다. 화면의 그림은 서로 다른 두 가지 초기 조건 불확실성을 가진 두 개의 예측을 보여줍니다. 위쪽 패널은 초기 불확실성이 작습니다. 예측 궤적들이 더 오랜 기간 동안 서로 가까이 유지되므로, 우리는 더 먼 미래까지 예측할 수 있습니다. 반면 아래쪽 패널은 초기 불확실성이 훨씬 큽니다. 궤적들이 훨씬 더 빠르게 갈라집니다. 이는 유용한 예측이 가능한 시간적 한계가 훨씬 빨리 찾아온다는 것을 의미합니다. 데이터 동화는 현재 상태의 불확실성을 줄여줍니다. 그리고 현재 상태를 더 잘 추정할수록 유용한 예측을 할 수 있는 창이 더 길어집니다. 즉, 더 나은 상태 추정은 예측 가능성을 직접적으로 향상시킵니다.

또한 데이터 동화는 관측되지 않거나 숨겨진 변수를 복원하는 데도 정말 유용합니다. 많은 지구 시스템에서 우리는 역학의 일부만을 관찰할 수 있습니다. 예를 들어 해수면을 관찰하는 것은 비교적 쉽지만, 심해를 관찰하는 것은 훨씬 더 어렵습니다. 그렇다면 우리가 직접 측정하지 못한 양을 추정할 수 있을까요? 정답은 '그렇다'입니다. 왜냐하면 바다는 서로 연결된 역학 시스템이기 때문입니다. 해수면의 움직임과 심해의 조류는 서로 영향을 주고받습니다. 모델은 이러한 물리적 연결 고리를 설명해 줍니다. 데이터 동화는 관측 데이터와 이러한 연결 고리를 결합하여 숨겨진 변수를 추론합니다. 이 예시에서는 표면 근처의 관측 데이터가 더 깊은 바다에 대한 정보를 복원하는 데 도움이 됩니다. 이것이 데이터 동화의 가장 강력한 능력 중 하나입니다. 제한된 관측 데이터만으로도 훨씬 더 큰 시스템을 재구성할 수 있습니다.

마지막 적용 사례를 보기 전에, 또 다른 간단한 예를 들어보겠습니다. 어떤 자전거 타는 사람을 추적하고 있다고 상상해 보세요. 당신은 이 사람이 오전 9시에 어디에 있었고, 오전 11시에 어디에 있었는지는 알고 있습니다. 하지만 그 사이 시간에 정확히 어떤 일이 있었는지는 모릅니다. 단순한 접근법은 두 위치를 직선으로 연결하는 것입니다. 하지만 실제 움직임이 직선을 따르는 경우는 거의 없습니다. 자전거 타는 사람은 방향을 바꾸거나, 속도를 내거나, 속도를 줄이거나, 굽어진 도로를 따라갔을 수 있습니다. 더 나은 재구성을 하려면 운동 법칙을 따라야 합니다. 즉, 관측 데이터와 역학 관계 모두와 일치해야 합니다. 이것이 바로 데이터 동화를 통해 우리가 할 수 있는 '역학적 보간(Dynamical Interpolation)'의 아이디어입니다.

이제 실제 지구 시스템의 예로 돌아와 보겠습니다. 여기서는 해빙(바다얼음)의 움직임을 추적합니다. 관측 데이터는 종종 불완전합니다. 특정 시간에만 해빙의 흐름을 관찰할 수 있을지도 모릅니다. 하지만 해빙은 바람, 해류, 그리고 이웃한 얼음과의 상호작용에 반응합니다. 단순히 관측된 위치들을 직선으로 연결하면 비현실적인 움직임이 만들어질 수 있습니다. 역학 모델은 이러한 움직임을 지배하는 물리적 규칙을 제공합니다. 데이터 동화는 이러한 규칙과 관측 데이터를 결합하여 누락된 정보를 재구성합니다. 그 결과는 단순한 수학적 보간에 그치지 않습니다. 그것은 움직임에 대한 물리적으로 의미 있는 재구성입니다.

이 세 가지 예시는 매우 달라 보일 수 있지만, 모두 같은 아이디어에 기반하고 있습니다. 우리는 데이터 동화가 현재 상태의 불확실성을 줄여준다는 것을 보았습니다. 데이터 동화는 숨겨진 정보를 복원하고, 누락된 데이터를 역학적으로 일관된 방식으로 채워 넣습니다. 이 모든 경우에서 데이터 동화는 시스템에 대한 더 완전한 추정치를 구축합니다. 그리고 그 추정치는 예측을 위한 더 단단한 기반이 됩니다.

종종 우리는 예측을 주된 도전 과제로 바라보지만, 예측은 더 근본적인 질문에서 시작됩니다. "지금 당장 무슨 일이 일어나고 있는가?" 모델은 완벽하지 않고 관측은 불완전하지만, 둘이 함께하면 현실에 대한 훨씬 더 나은 그림을 제공할 수 있습니다. 데이터 동화는 이를 가능하게 만드는 수학적 프레임워크입니다. 예측은 현재를 아는 것에서 시작하며, 데이터 동화는 우리가 바로 그것을 할 수 있도록 도와줍니다.

다음 강의에서는 인공지능(AI)이 지구를 이해하는 데 사용될 수 있을지, 아니면 단지 지구를 예측하는 데만 그칠지에 대해 자세히 파헤쳐 보겠습니다.

11강

인공지능(AI)은 지구과학을 변화시키고 있습니다. 매일 위성, 기상 관측소, 해양 부표, 기후 모델 등에서 방대한 양의 데이터가 생성되며, AI는 이러한 복잡한 데이터 세트를 학습하는 데 매우 뛰어난 성과를 보여주고 있습니다. 날씨와 해양 상태를 예측하고, 극단적인 기후 현상을 식별하며, 비용이 많이 드는 수치 시뮬레이션을 가속화할 수도 있습니다. 이러한 성공은 엄청난 기대를 불러일으켰지만, 동시에 더 깊은 과학적 질문을 던지게 합니다. 만약 AI 시스템이 미래를 정확하게 예측할 수 있다면, 그것은 실제로 지구가 어떻게 작동하는지 이해하고 있는 것일까요?

예측과 이해는 반드시 같은 것이 아니기 때문입니다. 과학에서 우리는 정확한 예측만을 원하는 것이 아니라 설명도 원합니다. 우리는 작동 메커니즘을 알고 싶어 하며, 왜 그런 일이 일어나는지 진정으로 이해하고 싶어 합니다.

관측된 데이터들을 모아 극도로 복잡한 수학 함수로 채워 넣는다고 상상해 봅시다. 계수가 충분하다면 이 곡선은 거의 모든 데이터 포인트를 통과할 수 있습니다. 언뜻 보기에는 인상적일 수 있지만, 내일 새로운 관측 데이터가 추가된다면 예측은 완전히 실패할 수 있습니다. 이는 모델이 일반적인 규칙을 발견한 것이 아니라 단순히 주어진 데이터를 암기했기 때문이며, 이러한 현상을 '과적합(overfitting)'이라고 합니다.

현대의 신경망은 이러한 고차 다항식보다 훨씬 더 정교하지만, 비슷한 우려는 여전히 존재합니다. 때로는 모델이 예측이 생성되는 과정에 대한 명확한 설명 없이도 매우 정확한 예측을 내놓을 수 있습니다. 그래서 조건이 바뀌면, 모델은 처음부터 시스템을 제대로 이해하지 못했기 때문에 예측에 실패할 수 있습니다.

AI를 다룰 때 우리는 입력값과 출력값을 알고 있습니다. 하지만 AI 모델이 입력값에서 어떻게 출력값을 도출해냈는지에 대한 내부적인 추론 과정은 이해하기 어려울 수 있으며, 이를 흔히 '블랙박스 문제'라고 부릅니다. 우리의 AI 모델은 실제 과학적 이해 없이도 높은 예측 정확도를 가질 수 있습니다. 따라서 정확도만으로는 충분하지 않으며, 과학은 설명을 추구합니다.

사람들이 '설명 가능한 AI'에 대해 말할 때 종종 서로 다른 것을 의미하곤 합니다. 이 개념들 뒤에는 사실 두 가지의 서로 다른 질문이 있습니다. 첫 번째는 'AI가 왜 이 예측을 했는가?'이고, 두 번째는 '이것이 우리에게 자연에 대해 무엇을 가르쳐주는가?'입니다. 이 질문들은 비슷하게 들릴 수 있지만 근본적으로 다릅니다.

첫 번째 질문은 AI 모델 자체에 초점을 맞춥니다. 모델이 왜 특정한 예측을 하는지, 어떤 변수가 중요한지, 각 입력값에 대해 출력값이 얼마나 민감하게 반응하는지 같은 것들입니다. 예를 들어, 습도, 풍속, 태양 복사열을 입력값으로 하여 기온을 예측하도록 AI 모델을 훈련시켰다고 가정해 봅시다. 훈련 후 모델을 분석해보니 태양 복사열은 예측에 강한 영향을 미치는 반면, 풍속은 작은 역할만 한다는 것을 발견할 수 있습니다. 이는 모델이 어떻게 행동하는지 이해하는 데 도움이 됩니다. 투명성을 높이고 신뢰를 더하며 문제를 식별하는 데 기여합니다. 예를 들어 모델이 무관한 정보에 의존하고 있거나 노이즈가 심한 관측치에 너무 강하게 반응하고 있다는 점을 발견할 수 있습니다. 모델을 이해하는 것은 정말 가치 있는 일이지만, 그것이 반드시 지구 시스템이 어떻게 작동하는지 말해주는 것은 아닙니다. 변수가 모델 내부에서 중요하게 보인다고 해서, 그것이 관측된 현상에 대해 물리적인 책임이 있다는 것을 자동으로 의미하지는 않습니다. 모델을 이해하는 것은 지구 시스템을 이해하는 것과 같지 않습니다.

이것이 우리를 두 번째 질문으로 이끕니다. AI가 지구 자체에 대한 새로운 사실을 배우는 데 도움을 줄 수 있을까요? 이는 과학의 전통적인 목표에 훨씬 더 가깝습니다. 우리는 더 이상 AI 모델을 이해하려는 것이 아니라, 자연을 이해하려고 노력하는 것입니다.

친숙한 예를 들어보겠습니다. 매일 대기를 관측하며 기온, 기압, 습도, 바람, 구름의 특성 등 수많은 변수를 측정한다고 가정해 봅시다. 몇 년이 지나면 수백만 개의 측정 데이터가 쌓이게 됩니다. 이 모든 정보를 직접 들여다보는 것은 압도적일 수 있습니다. 이제 과제는 데이터를 수집하는 것이 아니라 데이터 속에 숨겨진 의미 있는 패턴을 찾는 것입니다. AI는 이러한 지배적인 패턴을 식별하여 시스템의 단순화된 표현을 만들어냅니다.

많은 과학적 방법들도 이와 유사하게 복잡한 시스템을 단순화하려고 시도합니다. 예를 들어 전체 시스템을 몇 개의 지배적인 패턴과 그 패턴이 얼마나 강하게 활성화되는지 나타내는 계수들로 분해할 수 있습니다. 이 뒤에 숨겨진 기본 아이디어는 간단합니다. 수백만 개의 숫자를 연구하는 대신, 훨씬 더 작은 규모의 의미 있는 패턴 세트를 사용하여 시스템을 설명하는 것입니다. 이 아이디어는 과학 전반에 걸쳐 등장하며 진동, 기후 모드, 대규모 순환 패턴 등 다양한 형태의 조직화된 행동을 식별하는 데 도움을 줍니다.

그러나 지구 시스템은 종종 고도의 비선형성을 가집니다. 작은 변화가 때로는 매우 다른 결과를 낳을 수 있습니다. 서로 다른 물리적 메커니즘이 유사한 관측 결과를 만들어낼 수도 있고, 드물게 발생하는 극단적인 사건은 평균적인 조건과 다르게 행동할 수 있습니다. 이러한 상황에서는 미리 정해진 작은 패턴 세트만으로는 충분하지 않을 수 있습니다.

여기서 AI는 또 다른 가능성을 제시합니다. 패턴을 미리 규정하는 대신, 데이터로부터 직접 유용한 구조를 학습할 수 있습니다. 이 아이디어는 들리는 것처럼 복잡하지 않습니다. 큰 이미지를 중요한 특징은 보존하면서 훨씬 작은 파일로 압축하는 것을 상상해 보십시오. 유사한 아이디어가 지구 시스템 데이터에도 적용될 수 있습니다.

압축된 변수는 전체 시스템에 대한 조밀한 설명을 담게 됩니다. 원래 데이터 세트보다 훨씬 적은 정보를 포함하지만, 이상적으로는 가장 중요한 정보를 보존합니다. AI는 이러한 압축된 표현을 자동으로 구축하는 방법을 배웁니다. 이 저차원 설명이 발견되면 우리는 이를 시각화하고 분석하여 서로 다른 행동 체계를 식별할 수 있습니다. 예를 들어 데이터를 정상 조건, 발달 중인 극단적 현상, 성숙한 극단적 현상, 또는 유사한 결과로 이어지는 서로 다른 물리적 경로에 해당하는 영역으로 분리할 수 있습니다.

바로 이 지점에서 과학적 통찰력이 나타날 수 있습니다. 목표는 단지 예측을 하는 것이 아니라 복잡한 데이터 내부의 숨겨진 조직을 밝혀내는 것입니다. 폭염을 예로 들어보겠습니다. 두 개의 폭염 사건이 매우 유사해 보일 수 있습니다. 둘 다 비정상적으로 높은 기온을 기록했고, 많은 인구에 영향을 미쳤으며, 사회적 충격을 주었습니다. 하지만 이들은 완전히 다른 물리적 메커니즘에서 기인했을 수 있습니다. 하나는 지속적인 대기 블로킹(기압능 고착)과 관련이 있을 수 있고, 다른 하나는 지표면-대기 피드백과 관련이 있을 수 있습니다. 최종 결과만 본다면 이 사건들은 거의 동일해 보이지만, 이러한 경우 AI는 이들을 서로 다른 역학 체계로 분리하는 데 도움을 줄 수 있습니다. 겉보기에 비슷해 보이는 사건들이 서로 다른 물리적 경로에서 시작되었다는 점을 밝혀낼 수 있는 것입니다. 궁극적인 목표는 단지 AI를 이해하는 것이 아닙니다. AI를 사용하여 지구 시스템 자체의 구조를 밝혀내는 것입니다.

머신러닝을 사용해 해양 조류를 예측하고 싶다고 가정해 봅시다. 한 가지 가능성은 데이터로부터 직접 학습하는 것입니다. 하지만 데이터 자체만으로는 항상 충분하지 않을 수 있습니다. 순수하게 데이터에만 기반한 모델은 가끔 비현실적인 행동을 보일 수 있습니다. 알려진 물리적 원칙을 위반하거나 물리적으로 불가능한 솔루션을 생성할 수 있습니다.

'물리 기반 AI(Physics-informed AI)'는 이 문제를 해결하려고 시도합니다. 이는 훈련 과정에 물리학을 내재화합니다. 모델 훈련에 사용되는 손실 함수는 모델이 관측치와 얼마나 일치하는지 측정하는 항과, 알려진 물리 법칙의 위반에 대해 패널티를 부여하는 항으로 구성될 수 있습니다. 데이터만으로 모든 것을 학습하는 대신, 모델은 과학적 지식을 존중하면서 학습합니다. 이는 종종 견고성과 일반화 능력을 향상시키고 비현실적인 오류를 줄여줍니다. 물리학은 더 이상 AI와 분리된 것이 아니라 학습 과정 자체의 일부가 됩니다.

또 다른 강력한 아이디어는 AI를 역학 모델과 직접 결합하는 것입니다. 지구 시스템 모델에는 이미 수십 년간의 과학적 지식이 담겨 있습니다. 대기 순환, 해양 역학 및 기타 많은 물리적 과정을 설명합니다. 하지만 완벽한 모델은 없습니다. 어떤 과정들은 여전히 잘 이해되지 않고 있으며, 다른 과정들은 직접 분해하여 계산하기에 너무 많은 비용이 듭니다. AI는 이러한 모델을 대체하는 대신 미진한 부분들을 학습할 수 있습니다.

AI와 결합된 모델은 우리가 이미 이해하고 있는 물리학을 나타내는 항과, AI를 사용해 데이터로부터 학습된 정보를 나타내는 항으로 구성될 수 있습니다. 이 프레임워크는 두 접근 방식의 장점을 결합합니다. 물리학은 구조와 설명 가능성을 제공하고, AI는 유연성과 적응성을 제공합니다.

특히 중요한 응용 분야는 다중 규모(multi-scale) 시스템을 포함합니다. 구름, 난류, 대류와 같은 과정들은 직접 분해하기 어려운 규모에서 발생합니다. AI는 이들이 더 큰 규모에 미치는 영향을 학습하여 향상된 매개변수화(parameterization)를 제공할 수 있습니다. AI는 물리학을 대체하지 않습니다. AI는 물리학을 완성합니다.

다시 원래의 질문으로 돌아가 보겠습니다. AI는 지구를 이해할 수 있을까요? 대답은 미묘합니다. AI는 예측에 있어서 대단히 강력합니다. 하지만 우리에게 설명과 이해를 제공하는 것은 물리학입니다. 신중하게 결합될 때, AI는 숨겨진 구조를 드러내고 의미 있는 패턴을 발견하며 과학적 모델을 개선하는 데 도움을 줄 수 있습니다.

종합하자면 예측은 이해와 같지 않습니다. 그리고 모델을 이해하는 것은 시스템을 이해하는 것과 다릅니다. 하지만 물리학은 머신러닝을 안내할 수 있고, AI는 물리 모델을 보완할 수 있습니다. 진정한 과학적 통찰력은 데이터, 수학, 물리학, 그리고 AI가 함께 작동할 때 나타납니다. AI는 과학을 대체할 때가 아니라, 우리가 지구를 더 깊이 이해하도록 도울 때 가장 강력해집니다.

12강

오늘날 컴퓨터는 날씨, 해양, 난류, 심지어 행성 전체 등 거의 모든 것을 시뮬레이션할 수 있습니다. 하지만 시뮬레이션이 완벽하게 현실적으로 보인다고 해서 그것이 완전히 옳은 것은 아닙니다. 물리학을 위배하고 있을 수 있기 때문입니다. 그런 일이 발생하면 시뮬레이션은 단순히 작은 오류를 만드는 데 그치지 않고, 현실성을 완전히 상실할 수 있습니다.

먼저 시뮬레이션이 무엇을 의미하는지 정의해 보겠습니다. 본질적으로 시뮬레이션은 컴퓨터에서 실행되는 수학에 불과합니다. 우리는 자연을 설명하는 방정식을 가져와 이를 단계별로 근사화합니다. 예를 들어 유체와 날씨에서는 질량 보존, 운동량 보존, 에너지 보존과 같은 물리 법칙에 기반한 방정식을 사용합니다. 이것들은 선택 사항이 아니라 현실의 규칙입니다. 하지만 이러한 방정식의 해를 계산하려면 이산화(discretize)를 해야 합니다. 연속적인 시공간을 격자로 대체하는 것입니다.

그리고 이 지점부터 상황이 미묘해집니다. 방정식을 이산화할 때 물리학이 자동으로 보존되는 것은 아닙니다. 예를 들어 여기 두 가지 시뮬레이션을 보겠습니다. 왼쪽은 물리 법칙을 강제 적용한 반면, 오른쪽은 그렇지 않았습니다. 이산화할 때 물리 법칙을 강제하지 않으면 에너지가 서서히 증가하거나, 질량이 보존되지 않거나, 파동이 잘못된 속도로 이동할 수 있습니다. 이러한 오류는 처음에는 미미할 수 있지만 점차 누적됩니다. 그리고 시간이 지나면서 솔루션을 완전히 파괴할 수 있습니다. 처음에는 비슷해 보일지 몰라도 오직 하나만이 물리학을 존중하고 있는 것입니다. 물리적 일관성은 안정적이고 신뢰할 수 있는 시뮬레이션을 위해 필수적입니다. 아주 간단한 예로 이를 이해해 보겠습니다.

열, 오염 물질 또는 물처럼 움직이는 무언가를 추적한다고 상상해 보십시오. 우리는 이송 방정식(transport equation)이라고 불리는 이 방정식으로 이를 수행할 수 있습니다. 이 방정식은 시간의 변화가 공간의 변화에 속도 C를 곱한 값과 균형을 이루어야 함을 말해줍니다. 이는 신호가 속도 $C$로 이동한다는 것을 의미합니다. 증가도 없고 감쇠도 없이 오직 이송만 일어납니다. 이 방정식을 명시적으로 풀면 이를 더 명확하게 볼 수 있습니다. 초기 조건 $f(x)$가 주어지면 해는 $u = f(x - ct)$가 됩니다. 따라서 $t = 0$일 때 이 항은 사라지고 초기 조건인 $f(x)$만 남게 된다는 것을 알 수 있습니다. 그리고 초기 조건이 이렇다고 가정해 보겠습니다. 그러면 여기에 표시된 시간 $t = 1$에서 우리의 솔루션은 $C$만큼 이동할 것입니다. 그리고 $t = 2$일 때도 마찬가지로 계속해서 이동할 것입니다.

이를 시뮬레이션하기 위해 우리는 공간과 시간을 이산화합니다. 공간 격자점은 $\delta x$마다 있고, 시간 단계는 $\delta t$마다 있다고 가정해 보겠습니다. 이산화할 때 우리는 방정식의 도함수를 근사화해야 합니다. 그리고 도함수의 정의에 따라 이를 수행합니다. 우리가 하는 일은 가까운 격자점 사이의 차이를 구하고, 이를 시간이나 공간의 거리로 나누는 것입니다. 여기 이산적인 시공간 지점에서의 $u$ 값들이 있습니다. $I$는 공간 인덱스를 나타내고, $N$은 시간 인덱스를 나타냅니다. 즉, 시간상 한 단계 앞선 값에서 현재 시간의 값을 빼고 이를 시간 단계로 나누는 것입니다. 이제 도함수를 근사화하기 위해 근처의 어떤 점들을 사용할지 선택할 수 있습니다. 점들이 정말 가까이 있는 한 이 근사는 꽤 정확할 것입니다. 도함수의 정의에 따르면 점들을 무한히 가깝게 만들 때 정확한 도함수를 얻게 됩니다. 따라서 우리는 매우 작은 시간 단계와 공간 단계를 취할 것입니다. 점들을 선택할 때 왼쪽 점이나 오른쪽 점을 선택하여 현재 점과 비교할 수도 있고, 우측과 좌측 점을 비교하여 현재 점에서의 도함수를 근사화할 수도 있습니다. 방법에 따라 이를 위해 서로 다른 점들의 세트를 사용하게 됩니다.

특히 이 방정식을 시뮬레이션하는 데 중요한 방법 중 하나는 업윈드 기법(upwind scheme)이라고 불립니다. 이 방법은 공간 도함수의 근사에서 흐름이 어디서 오는지에 대한 정보를 사용합니다. 따라서 구체적으로 속도 $C$가 0보다 클 때, 흐름은 왼쪽에서 와서 오른쪽으로 가게 됩니다. 그래서 우리는 공간 도함수를 근사하기 위해 왼쪽 격자점을 사용하고 이를 현재 노드와 비교합니다. 이 방법은 방향을 반영하며 인과관계를 반영합니다.

하지만 그렇다 하더라도, 물리적으로 동기부여된 이 방법 역시 여전히 실패할 수 있습니다. 그 이유는 다음과 같습니다. 속도에 시간 단계와 공간 단계의 비율을 곱한 값이 1보다 작거나 같아야 합니다. 이를 CFL 조건이라고 합니다. 1928년 쿠란, 프리드리히, 레위가 도입한 것으로, 간단한 물리적 아이디어를 반영합니다. 수치적 방법은 정보가 실제 시스템에서보다 더 빨리 이동하도록 허용해서는 안 된다는 것입니다. 이 원리는 파동, 전류, 신호가 모두 유한한 속도로 전파되는 유체 역학에서 자연스럽게 발생합니다. 그리고 이것이 현대 지구과학 시뮬레이션의 안정성의 기반이 됩니다. 한 번의 시간 단계에서 정보가 한 격자 셀보다 더 멀리 이동해서는 안 된다는 의미입니다.

이유를 알아보겠습니다. 시간 $\delta t$ 동안 신호는 $c$ 곱하기 $\delta t$만큼 이동합니다. 하지만 우리의 격자 간격은 $\delta x$입니다. 따라서 $c \delta t$가 $\delta x$보다 작으면 움직임을 올바르게 추적할 수 있습니다. 하지만 $c \delta t$가 $\delta x$보다 크면 신호가 격자점을 건너뛰게 됩니다. 시뮬레이션은 정보가 어디서 왔는지 놓치게 됩니다. 이는 느린 카메라로 빠르게 달리는 자동차를 추적하는 것과 같습니다. 프레임 사이에 차가 너무 멀리 이동하면 궤적을 잃어버리게 됩니다. 우리는 바람 상류법의 구성 요소를 재배열하고 이름을 바꾸어 이 방정식으로 만듦으로써 이를 수학적으로도 확인할 수 있습니다. 여기서 $\lambda$는 원래의 계수인 $\delta x$ 분의 $c \delta t$와 같습니다. 따라서 $\lambda$가 0과 1 사이에 있으면 이는 가중 평균이 됩니다. 안정적이고 제어가 가능할 것입니다. 하지만 $\lambda$가 1보다 크면 이 가중치가 깨집니다. 더 이상 평균을 내는 것이 아니라 증폭을 시키게 되며, 그것이 바로 불안정성입니다.

CFL 조건은 자의적인 것이 아닙니다. 이는 두 가지를 보장합니다. 첫째는 물리학이 존중된다는 것이고, 둘째는 계산이 안정적이라는 것입니다. 물리학과 수치 해석이 만나는 지점입니다. 하지만 CFL은 하나의 예일 뿐입니다. 우리가 보존해야 할 더 깊은 구조들이 있습니다. 많은 시스템에서 에너지는 보존되어야 합니다. 일정하게 유지되거나 소실되어야 합니다. 에너지의 정의에는 질량, 속도, 중력, 높이가 고려됩니다. 그리고 우리가 이러한 양 중 일부를 추정할 때, 에너지의 진화는 비물리적으로 변할 수 있습니다. 순진한 방법들은 인위적으로 에너지를 더하거나 너무 많은 에너지를 제거할 수 있습니다. 그리고 시간이 지나면서 시스템은 비물리적으로 변합니다. 이는 진자가 에너지를 얻거나, 파동이 이유 없이 커지거나, 난류가 올바르지 않게 작동하는 것과 같을 수 있습니다. 이러한 오류는 겉보기에만 문제인 것이 아닙니다. 시스템의 거동을 변화시킵니다. 카오스(혼돈) 시스템에서는 이것이 훨씬 더 중요해집니다. 작은 오류가 기하급수적으로 커집니다. 따라서 물리학의 아주 작은 위배조차도 특히 장기 예측에서 완전히 잘못된 결과로 이어질 수 있습니다.

그리고 이제 이것은 현대 AI로 연결됩니다. 신경망은 데이터를 극도로 잘 맞출 수 있지만, 물리학을 자동으로 알지는 못합니다. 에너지를 보존하지 않을 수 있습니다. 전파 속도를 존중하지 않을 수도 있습니다. CFL과 같은 안정성 제약 조건을 위배할 수도 있습니다. 그리고 카오스 시스템에서 이것은 심각한 한계입니다. 단기 예측은 정확해 보일 수 있지만, 장기 예측은 물리 법칙이 AI 모델에 내장되어 있지 않기 때문에 벗어나게 됩니다. 이는 규칙을 이해하지 못한 채 동작을 모방하는 법을 배우는 것과 같습니다. 본 것은 모방할 수 있지만 새로운 상황에서는 실패할 것입니다. 그렇기 때문에 현대적인 접근 방식은 안정성과 장기적인 신뢰성을 향상시키기 위해 데이터, 물리학, 그리고 구조 보존 방법을 결합합니다.

전반적으로 수치적 정확도만으로는 충분하지 않습니다. 물리적 일관성이 필수적입니다. 안정성은 구조를 존중하는 데서 옵니다. 따라서 실제로 시뮬레이션은 단순히 방정식을 푸는 것이 아닙니다. 그것은 현실이 어떻게 진화하는지를 재현하는 것입니다. 그리고 물리학의 규칙을 무시한다면 그것은 더 이상 미래를 예측하는 것이 아닙니다. 다음 강의에서는 지구과학이 어떻게 새로운 수학을 만들어냈는지 깊이 있게 다루어 보겠습니다.

13강

작은 구름 물방울이 허리케인의 성장에 영향을 미칠 수 있을까요? 아니면 해수면만 바라보는 위성이 수천 미터 아래 깊은 곳에서 무슨 일이 일어나고 있는지 알려줄 수 있을까요? 이는 지구과학 질문처럼 들리지만, 이에 답하는 과정에서 수학은 변화해야만 했습니다. 지구는 두 가지 근본적인 과제를 제시합니다. 지구는 엄청나게 다양한 규모에 걸쳐 서로 상호작용하는 과정들을 포함하고 있으며, 지구 상태의 대부분은 직접 관찰할 수 없다는 점입니다. 첫 번째 과제는 다중 규모 모델링(multiscale modeling)으로 이어졌고, 두 번째 과제는 역문제(inverse problems)로 이어졌습니다. 이 두 가지는 우리가 복잡한 시스템을 이해하기 위해 수학을 사용하는 방식을 바꾸어 놓았습니다.

허리케인부터 시작해 보겠습니다. 처음에 허리케인은 하나의 거대한 회전하는 폭풍처럼 보입니다. 수백 또는 수천 킬로미터에 걸쳐 펼쳐질 수 있죠. 이것이 거대 규모(large scale)이지만, 폭풍 내부에서는 더 작은 많은 과정이 일어나고 있습니다. 비구름대, 뇌우, 난류 소용돌이가 존재합니다. 상승 기류와 하강 기류가 있고, 더 작은 규모로 들어가면 구름 물방울, 얼음 결정, 미시 물리적 과정들이 있습니다. 따라서 허리케인은 단지 하나의 물체가 아니라, 서로 상호작용하는 수많은 규모들이 얽힌 시스템입니다.

바다에서도 똑같은 일이 일어납니다. 가장 큰 규모에서는 멕시코 만류와 같은 대양 분지 규모의 순환을 봅니다. 중간 규모(mesoscale)에서는 소용돌이와 구불구불 사행하는 해류를 봅니다. 더 작은 규모에서는 난류와 혼합을 보며, 미시적 규모에서는 소산(dissipation)과 분자 과정을 보게 됩니다. 핵심 메시지는 간단합니다. 작은 규모가 큰 규모의 행동에 영향을 미친다는 것입니다. 작은 구름 과정이 허리케인의 성장 방식에 영향을 줄 수 있고, 작은 바다 소용돌이가 지구 전체의 열 수송 방식에 영향을 줄 수 있습니다. 이것이 바로 지구과학을 수학적으로 어렵게 만드는 요인입니다. 우리는 단지 큰 그림만 모델링하고 세부 사항을 무시할 수 없습니다. 하지만 모든 세부 사항을 시뮬레이션할 수도 없습니다. 그 팽팽한 긴장감이 다중 규모 시스템의 수학을 만들어 냈습니다.

거대 규모와 소규모 과정은 서로에게 영향을 미칩니다. 거대 규모의 환경이 소규모 과정을 형성하지만, 소규모 과정 역시 피드백을 주어 거대 규모 시스템을 변화시킵니다. 그것이 핵심적인 어려움입니다. 이제 이를 설명하기 위한 아주 간단한 수학적 형태를 써보겠습니다. 여기서 $X$는 우리가 격자 안에서 직접 해상해(resolve) 낼 수 있는 변수를 나타냅니다. 예를 들어 거대 규모의 바람, 기온, 해류 등이 이에 해당합니다. $Y$는 우리가 완전히 해상해 낼 수 없는 소규모 변수를 나타냅니다. 예를 들어 구름 물방울, 난류, 혹은 작은 소용돌이들입니다. 실제 시스템은 $X$와 $Y$ 모두에 의존합니다. 하지만 현실적으로 우리는 $Y$를 직접 계산할 수 없는 경우가 많습니다. 그래서 우리는 $Y$의 효과를 근사적인 항으로 대체합니다.

이것이 다중 규모 모델링에서 가장 중요한 아이디어 중 하나입니다. '종결(closure)'이라는 단어는 누락된 소규모 물리학을 표현함으로써 거대 규모 방정식을 완결 짓는(닫는) 것을 의미합니다. 예를 들어, 모든 구름 물방울을 시뮬레이션하는 대신 기후 모델은 구름 모수화(cloud parameterization)를 사용합니다. 모든 작은 바다 소용돌이를 직접 해상하는 대신, 거친 격자 모델은 소용돌이 종결(eddy closure)을 사용할 것입니다. 따라서 수학적 문제는 '우리가 볼 수 없는(해상할 수 없는) 규모의 효과를 어떻게 표현할 것인가?'가 됩니다. 이 질문은 단순한 세부 사항이 아닙니다. 이는 현대 응용수학의 주요 분야들을 탄생시켰습니다. 다중 규모 분석, 균질화(homogenization), 확률론적 모델링, 모수화, 축소 차원 모델링(reduced-order modeling), 그리고 이제는 머신러닝 기반 종결(machine learning closure)에 이르기까지, 이 모든 아이디어는 지구 시스템이 완전히 해상하여 계산하기에는 너무나 복잡하기 때문에 발전할 수 있었습니다.

이제 우리는 첫 번째 장애물을 보았습니다. 지구는 한꺼번에 모두 시뮬레이션하기에는 너무나 많은 상호작용 규모를 포함하고 있습니다. 하지만 두 번째 장애물도 존재합니다. 지구의 많은 부분은 단지 해상되지 않는 수준을 넘어, 숨겨져 있다는 점입니다. 우리는 대기 전체나 깊은 바다를 직접 관찰할 수 없습니다. 따라서 수학은 다른 일을 해야만 합니다. 측정할 수 있는 것으로부터 볼 수 없는 것을 추론하는 일입니다. 이것이 바로 역문제의 아이디어입니다.

바다의 상태를 구체적인 예로 들어보겠습니다. 우리가 표면뿐만 아니라 수천 미터 아래 깊은 곳까지 포함하여 온도, 염분, 해류를 포함하는 바다의 완전한 3차원 상태를 알고 싶다고 가정해 봅시다. 하지만 우리가 실제로 관찰할 수 있는 것은 무엇일까요? 위성은 표면을 관찰합니다. 해수면 온도, 해수면 높이, 바다의 색상 같은 것들을 측정하죠. 표면 표류 부이는 표면 근처의 해류에 대해 무언가를 알려줄 수 있습니다. 계류 부이는 지역적인 측정값을 제공합니다. 아르고(Argo) 플로트는 온도와 염분의 수직 프로파일을 제공하지만, 여전히 그 분포는 드문드문합니다. 그래서 우리는 어려운 상황에 처하게 됩니다. 우리는 깊은 바다 전체를 알고 싶어 하지만, 우리가 관찰하는 데이터는 제한적이고, 노이즈가 있으며, 불완전합니다.

이것이 역문제입니다. 우리는 관찰된 것으로부터 숨겨진 것을 회복하려고 노력하는 것입니다. 표면 관찰은 우리에게 단서를 주지만, 깊은 바다의 상태는 직접적으로 보이지 않습니다. 따라서 우리는 관찰, 물리 모델, 그리고 수학적 추론을 결합합니다. 이것이 데이터 동화(data assimilation)의 핵심입니다. 이는 단지 누락된 데이터를 채워 넣는 것이 아닙니다. 물리학과 확률을 사용하여 역학적으로 일관된 바다 상태를 추론하는 것입니다.

순방향 문제(forward problem)는 일반적인 방향입니다. 우리가 바다의 완전한 상태를 안다면, 관찰 결과가 어떻게 보일지 예측할 수 있습니다. 예를 들어, 모든 곳의 온도와 해류를 안다면 위성이 표면에서 무엇을 관찰할지 예측할 수 있습니다. 반면 역문제는 거꾸로 갑니다. 관찰 결과가 주어지면 숨겨진 상태를 추론하려고 노력합니다. 우리의 바다 예시에서는 표면 관찰을 사용해 표면 아래에서 무슨 일이 일어나고 있는지 추론합니다. 하지만 이 답이 유일하지 않을 수 있기 때문에 어렵습니다. 서로 다른 깊은 바다 상태가 매우 유사한 표면 관찰 결과를 만들어 낼 수 있습니다. 이는 이 문제가 부적절하게 설정되었음(ill-posed, 수학적으로 해가 유일하지 않거나 조건이 부족한 문제)을 의미합니다.

이해를 돕기 위해 간단한 비유를 들어보겠습니다. 빙산의 일각만 바라보고 있다고 상상해 보세요. 물 위에 있는 것은 보이지만, 물 아래의 전체 모양을 알고 싶어 합니다. 물 위의 보이는 부분과 똑같은 모습을 만들어 낼 수 있는 수많은 서로 다른 수중 모양이 존재할 수 있습니다. 깊은 바다 문제도 이와 비슷합니다. 표면은 단서를 제공하지만, 아래에 있는 모든 것을 유일하게 결정 짓지는 못합니다. 그렇기 때문에 불확실성은 피할 수 없습니다.

따라서 단 하나의 완벽한 답을 찾는 대신, 우리는 확률 분포를 구합니다. 이는 우리가 "바다의 상태가 무엇인가?"라고 묻지 않고, "관찰 결과와 모델이 주어졌을 때 어떤 상태가 가능성이 높은가?"라고 묻는 것을 의미합니다. 이것은 생각의 큰 전환입니다. 이해는 추론이 됩니다. 예측은 확률적이 됩니다. 그리고 데이터는 모델 및 불확실성과 결합할 때 비로소 유용해집니다.

이 예시가 특히 강력한 이유는 바다가 엄청난 양의 열을 저장하고 이동시키기 때문입니다. 깊은 바다의 작은 오류가 장기적인 기후 예측에 영향을 미칠 수 있습니다. 하지만 깊은 바다는 관찰하기 어렵습니다. 모든 곳에 센서를 설치할 수는 없습니다. 모든 층을 지속적으로 측정할 수도 없죠. 그래서 수학이 필수적이 됩니다. 모델은 물리적 제약을 제공합니다. 관찰은 부분적인 정보를 제공합니다. 확률은 불확실성을 설명합니다. 그리고 데이터 동화는 이들을 결합합니다. 이것이 바로 역문제가 단순히 기술적인 도구에 그치지 않는 이유입니다. 그것들은 앎의 새로운 방식입니다. 우리가 시스템 전체를 볼 수 없을 때 어떻게 추론해야 하는지 알려줍니다.

이제 이 두 가지 문제를 연결해 보겠습니다. 지구과학에서 우리는 드물게 하나의 과제에만 직면하지 않습니다. 두 가지 모두에 직면합니다. 시스템은 다중 규모이며 관찰은 불완전합니다. 예를 들어, 바다에서는 소규모 난류가 거대 규모의 열 수송에 영향을 미칩니다. 동시에 우리는 표면만 관찰할 수 있을지도 모릅니다. 따라서 우리는 숨겨진 상태를 추론하는 동시에 해상되지 않는 과정을 표현해야 합니다. 그것은 극도로 어려운 일이며, 이러한 어려움이 수학을 진화하도록 강제했습니다.

우리에게는 다중 규모 모델링을 위한 방법이 필요했습니다. 역문제를 위한 방법이 필요했습니다. 불확실성을 표현하기 위해 확률론적 모델이 필요했습니다. 그리고 모델과 관찰을 결합하기 위해 데이터 동화가 필요했습니다. 오늘날 우리는 종결 관계식을 학습하고, 패턴을 감지하며, 재구성을 개선하기 위해 머신러닝도 사용합니다. 하지만 핵심은 AI가 물리학을 대체한다는 것이 아닙니다. 핵심은 현대 수학이 이제 물리학, 데이터, 그리고 불확실성을 결합한다는 점입니다. 지구과학은 이러한 사고방식을 만드는 데 기여했습니다.

그렇다면 지구과학은 수학에 무엇을 가르쳐 주었을까요? 첫째, 다중 규모 시스템은 작은 것이 중요하다는 것을 가르쳐 주었습니다. 작은 구름 물방울, 난류 소용돌이, 소규모 혼합이 행성 규모의 행동을 형성할 수 있습니다. 둘째, 역문제는 데이터가 불완전하며 우리가 시스템 전체를 직접 완전히 관찰할 수 없다는 것을 가르쳐 주었습니다. 그래서 우리는 부분적인 관찰로부터 숨겨진 상태를 추론해야 합니다. 셋째, 이해는 추론이 됩니다. 우리는 더 이상 단순히 방정식을 풀기만 하지 않습니다. 모델, 데이터, 확률을 결합합니다.

지구과학은 수학을 단순히 사용하기만 한 것이 아니라, 수학을 변혁시켰습니다. 수학을 이상화된 방정식을 풀기 위한 도구에서 복잡하고, 불확실하며, 부분적으로만 관찰되는 시스템에 대해 추론하기 위한 프레임워크로 변화시켰습니다. 그리고 그것이 현대 응용수학의 가장 깊은 교훈 중 하나입니다. 지구는 전체를 시뮬레이션하기에는 너무 복잡하고, 직접 관찰하기에는 너무 숨겨져 있습니다. 다중 규모 방법은 우리가 해상할 수 없는 과정을 표현하도록 도와줍니다. 역문제 방법은 우리가 볼 수 없는 상태를 추론하도록 도와줍니다. 지구과학은 단순히 기존의 수학을 적용하는 것이 아닙니다. 그것은 수학이 변화하도록 이끌었습니다.

다음 강의에서는 응용수학이 정확히 무엇인지에 대해 깊이 파고들어 보겠습니다.

14강

사람들이 '응용수학'이라는 말을 들으면, 보통 구체적인 문제를 해결하기 위해 방정식을 사용하는 모습을 떠올립니다. 그것도 어느 정도 맞는 말이지만, 가장 흥미로운 핵심을 놓치고 있습니다. 응용수학은 단순히 기법들을 모아놓은 상자가 아닙니다. 한 번에 전부 파악하기에는 너무나 복잡한 세상을 바라보고 이해하는 하나의 방식입니다.

내일 당장 지금까지 촬영된 모든 인공위성 사진, 모든 해양 측정 데이터, 모든 기상대 기록, 모든 기후 시뮬레이션, 그리고 가장 강력한 인공지능 시스템까지 손에 넣게 된다고 가상해 봅시다. 그렇다면 우리는 지구를 자동으로 이해하게 될까요? 아마 아닐 것입니다. 역사상 그 어떤 과학자 세대보다 더 많은 정보를 갖게 되겠지만, 어떤 패턴이 정말 중요한지, 어떤 신호가 잡음인지, 어떤 메커니즘을 신뢰할 수 있는지, 혹은 무엇을 예측할 수 있는지 여전히 알지 못할 수 있습니다.

이것이 핵심입니다. 과학은 단순히 데이터가 많아진다고 해서 강력해지는 것이 아닙니다. 정보를 '이해'로 조직화할 수 있을 때 강력해집니다.

따라서 이번 강의에서는 이번 시리즈에서 다루었던 개별 도구들에서 한 걸음 물러나 더 넓은 질문을 던져보고자 합니다. 응용수학이란 정말 무엇일까요?

응용수학은 본질적으로 다음의 네 가지 질문을 던지는 엄격하고 체계적인 방식입니다.

1. 시스템을 어떻게 기술해야 하는가?
2. 무엇을 단순화해야 하는가?
3. 어떤 숨겨진 정보를 복원할 수 있는가?
4. 무엇을 솔직하게 예측할 수 있는가?

이 네 가지 질문은 지구과학, 공학, 의학, 인공지능, 그리고 복잡한 시스템을 이해하려는 거의 모든 분야에서 반복해서 등장합니다.

사실 문제는 데이터의 부족이 아닙니다. 지구 자체가 엄청나게 다루기 힘든 시스템이라는 점입니다. 지주는 멀티스케일(다중 규모) 특성을 가집니다. 몇 분 동안 유지되는 구름이 며칠 동안 지속되는 기상 시스템에 영향을 미치고, 몇 십 년에 걸쳐 변화하는 해양 순환이 지구 전체의 기후 패턴을 형성합니다. 또한 비선형적이어서 한 곳에서의 작은 변화가 커지고 다른 과정들과 상호작용하여 전혀 다른 곳에서 큰 반응을 만들어낼 수 있습니다.

게다가 부분적으로만 관측됩니다. 바다의 모든 난류, 대기의 모든 변수, 지구 내부의 모든 과정, 기후 시스템의 모든 상호작용을 다 측정할 수는 없습니다. 그리고 모든 것에 불확실성이 존재합니다. 관측값에는 잡음이 섞여 있고, 모델은 불완전하며, 많은 중요한 과정에 우연성이나 해결되지 않은 변동성이 포함되어 있습니다. 이는 중앙의 과제가 단순히 더 많은 정보를 수집하는 것이 아님을 의미합니다. 핵심 과제는 이 압도적인 복잡성을 우리가 추론할 수 있는 형태로 바꾸는 것입니다.

유용한 비유로 지도(Map)를 들 수 있습니다. 도로 지도, 지하철 노선도, 기상도, 위성 사진은 모두 동일한 도시나 지역을 설명할 수 있습니다. 하지만 이들은 서로 다른 목적으로 만들어졌기 때문에 같은 정보를 보여주지 않습니다. 도로 지도는 운전을 돕고, 지하철 노선도는 역을 찾도록 도우며, 위성 사진은 지형을 보여줍니다. 그 중 어느 것도 도시 그 자체는 아닙니다.

과학적 모델도 마찬가지 방식으로 작동합니다. 모델은 현실의 복사본이 아니라, 신중하게 선택된 현실의 표현입니다.

이 점이 응용수학 뒤에 숨겨진 첫 번째 질문으로 이어집니다. "시스템을 어떻게 기술해야 하는가?" 방정식을 풀기 전에 우리는 언어를 선택해야 합니다. 대기를 미분방정식으로 기술해야 할까요? 불확실성을 확률로 기술해야 할까요? 상호작용을 네트워크로 기술해야 할까요? 그리고 데이터로부터 패턴을 학습하기 위해 신경망을 사용해야 할까요? 이는 단순한 기술적 선택이 아니라 과학적 선택입니다. 어떤 기술 방식을 택하느냐에 따라 우리가 무엇을 볼 수 있는지, 무엇을 측정할 수 있는지, 어떤 종류의 설명이 가능해지는지가 결정됩니다.

두 번째 질문은 "무엇을 단순화해야 하는가?"입니다. 이것은 과학에서 가장 오해받는 부분 중 하나입니다. 사람들은 종종 더 좋은 모델이란 항상 더 세부적인 모델이라고 가정하곤 합니다. 하지만 항상 그렇지는 않습니다. 도시의 교통 흐름을 이해하고 싶다면, 모든 운전자의 생각, 모든 타이어의 회전, 모든 자동차의 미세한 움직임부터 시작해서는 안 됩니다. 먼저 정체, 흐름, 병목 현상, 정지와 출발의 파동 같은 지배적인 패턴을 찾아야 합니다. 지구과학도 같은 방식으로 작동합니다.

엘니뇨를 이해하기 위해 모든 개별 구름을 추적할 필요는 없습니다. 대규모 해양 순환을 이해하기 위해 모든 작은 소용돌이(eddy)를 다 풀어낼 필요는 없습니다. 단순화된 모델은 너무 많은 세부사항 속에 숨겨져 있을 메커니즘을 드러내 줄 때 가치를 가집니다. 단순화는 현실을 무시하는 것이 아니라, 핵심 메커니즘이 선명하게 드러나는 기술 수준을 찾는 것입니다.

세 번째 질문은 "어떤 숨겨진 정보를 복원할 수 있는가?"입니다. 지구는 우리에게 모든 것을 직접 말해주지 않습니다. 우리는 깊은 바다보다 바다 표면을 더 잘 관측하고, 지구 내부보다 대기를 더 잘 관측합니다. 계측기가 있는 곳에서조차 측정값은 불완전하고 잡음이 많습니다. 따라서 과학자들은 직접 측정할 수 없는 것을 추론해야 합니다. 이것이 역문제(Inverse Problems)와 데이터 동화(Data Assimilation) 뒤에 있는 논리입니다. 우리는 직접 관측한 값과 수학적 모델을 결합하여, 해수면 아래의 온도, 현재 대기의 전체 상태, 지구 내부 구조, 또는 기후 패턴을 제어하는 변수와 같은 숨겨진 상태를 재구성합니다.

하지만 복원 작업은 단순히 빈 데이터를 채워 넣는 것이 아닙니다. 훌륭한 복원 방법은 재구성된 결과가 얼마나 불확실한지, 그리고 숨겨진 상태의 어느 부분이 실제 관측 데이터에 의해 제약을 받는지까지 알려줍니다.

네 번째 질문은 "무엇을 솔직하게 예측할 수 있는가?"입니다. 예측은 가장 눈에 띄는 목표이지만, 단순히 미래의 궤적 하나를 만들어내는 일이 아닙니다. 일기 예보, 계절 전망, 기후 예측, 재해 경보는 모두 동일한 수학적 문제에 직면합니다. 미래의 어떤 측면이 예측 가능하고, 어떤 측면이 예측 불가능한가?

어떤 불확실성은 불완전한 초기 조건, 모델의 오류, 해상도 한계 이하의 소규모 과정, 혹은 세상 자체가 변화하고 있다는 사실에서 비롯됩니다. 따라서 목표는 이러한 불확실성을 완전히 없앨 수 있는 척 가장하는 것이 아닙니다. 목표는 이 불확실성이 어떻게 진화하는지, 예측을 신뢰할 수 있는 지점은 어디이고 그 한계에 다다르는 지점은 어디인지를 이해하는 것입니다.

오늘날의 미래 전망이 자주 확률적으로 이루어지는 이유가 바로 이 때문입니다. 또한 인공지능이 흥미로우면서도 결코 '마법'은 아닌 이유이기도 합니다. AI는 패턴을 표현하고 예측을 수행하는 강력하고 새로운 방법을 제공하지만, 그 예측을 언제 신뢰할 수 있는지, 언제 실패하는지, 그리고 AI가 어떤 종류의 과학적 이해를 제공할 수 있는지를 묻기 위해서는 여전히 수학이 필요합니다.

결국 응용수학은 고립된 기법들의 나열이 아니라 하나의 '작업 흐름(Workflow)'입니다. 우리는 복잡한 시스템을 수학적 언어로 기술합니다. 핵심 메커니즘이 보일 때까지 이를 단순화합니다. 불완전한 관측으로부터 숨겨진 정보를 복원하고, 불확실성을 추적하면서 미래를 예측합니다.

프로젝트마다 이 작업 흐름 중 강조하는 부분이 다를 수 있습니다. 개념 모델은 단순화에 집중할 수 있고, 데이터 동화 기법은 복원에 집중할 수 있습니다. 확률적 예보는 예측에 집중할 수 있으며, 신경망은 복잡한 패턴을 기술하거나 예측 모델을 만드는 데 도움을 줄 수 있습니다. 하지만 그 깊은 논리는 공유됩니다.

이것이 바로 응용수학이 지구과학에서 그토록 강력한 이유입니다. 지구 시스템은 직관만으로 다루기에는 너무 크고, 너무 연결되어 있으며, 부분적으로만 관측됩니다. 무엇을 표현하고, 무엇을 무시하며, 무엇을 추론하고, 무엇을 예측할지 결정할 방법이 우리에게는 필요합니다.

다시 말해, 응용수학은 단순히 계산을 더 빠르게 하도록 돕는 것에 그치지 않습니다. 더 날카롭고 명확한 과학적 질문을 던질 수 있도록 돕습니다.

마지막으로 그 네 가지 질문을 다시 되짚어 보겠습니다. 응용수학은 올바른 수학적 언어로 현실을 기술하고, 핵심 메커니즘을 잃지 않으면서 단순화하며, 불완전한 관측으로부터 숨겨진 정보를 복원하고, 불확실성과 그 한계를 이해하면서 예측할 수 있도록 도와줍니다.

지난 강의들을 돌아보면, 우리가 다루었던 많은 개념들이 자연스럽게 이 틀 안에 들어맞습니다. 개념 모델은 단순화를 돕고, 확률은 불확실성을 기술하도록 돕습니다. 데이터 동화는 숨겨진 상태를 복원하도록 도우며, 수치 시뮬레이션과 인공지능은 복잡한 동작을 탐구하고 예측하도록 돕습니다. 그러나 이것들은 별개의 기술이 아닙니다. 모두 '복잡성을 이해로 바꾸는' 동일한 깊은 작업을 수행하는 서로 다른 방법들일 뿐입니다.

응용수학은 흔히 방정식에 관한 학문으로 생각되곤 하지만, 방정식은 이야기의 일부일 뿐입니다. 더 깊은 기술은 어떤 질문을 던져야 할지, 어떤 구조를 유지해야 할지, 어떤 정보가 누락되었는지, 그리고 어떤 주장을 신뢰할 수 있는지를 아는 것입니다.

따라서 응용수학은 어쩌면 단순히 수학의 한 분야가 아닐지도 모릅니다. 세상이 너무 복잡해서 직접 이해하기 어려울 때, 과학적인 질문을 던지는 하나의 방법론입니다.

다음 강의에서는 우리 지구 시스템의 미래와 응용수학이 어떻게 미래를 분석하고 예측하는 데 도움을 주는지 다루어 보겠습니다.